互联网从业者充电站
9 小时前
让本地 GGUF 模型在生成每个 token 时把概率分布、落选候选和采样器各阶段的取舍摊在浏览器里,并标出两份量化模型在哪一个位置选出不同的词。
https://github.com/manuelgscom/inside-llm
📢
每日 GitHub 开源项目:
@github1024
Home
Powered by
BroadcastChannel
&
Sepia