rvLLM 是一个用 Rust 编写的 Gemma 4 推理引擎，把模型加载、调度、KV 缓存管理、采样和服务的核心逻辑都放在原生代码里实现。
https://github.com/solidsf-inc/rvLLM

互联网充电｜优质资源
优质内容｜内幕消息