想在本地跑一个 Jev 那样的决策模型，一次前向传播里把一份文档问上好几遍、拿到概率而不是让模型写字，kev 拿 Qwen 底座加 LoRA 和读出头上做了出来，能在 Mac 上服务、也能在 H100 上重训。
https://github.com/jaredpalmer/kev
Jared Palmer 写的 kev 在 Qwen 底座（0.5B 到 8B）上挂 LoRA 加一个指针读出头，架构是 Archer Hume 那篇 Jev 逆向分析的复刻，接口照抄 TypeSafe System One，官方 typesafe-sdk 改个 base_url 就能连本地服务。

互联网充电｜优质资源
优质内容｜内幕消息
 
 
Back to Top