这套东西给 2 台 GB10 DGX Spark 准备，DeepSeek V4.1 Flash 砍到 EXL3 mul1 平均 2.9bpw，39 个分片 196 GiB，TP=2 跑 vLLM，8888 端口挂 OpenAI 接口，模型名叫 DeepSeek-v4.1-Flash-EXL3。
https://github.com/MiaAI-Lab/DeepSeek-v4.1-Flash-EXL3-2x-DGX-Sparks

互联网充电｜优质资源
优质内容｜内幕消息
 
 
Back to Top