周末终于在本地装了这两天刚发的 llama 3.1-8b 和 mistral-nemo-12b 模型，目前我的台式和笔记本跑这两个小参数的都无压力，速度确实是比 llama 3 快太多了。建议大家也都试试，小参数的虽然和闭源的 Claude 3.5 sonnet 以及 ChatGPT-4o 还有不小的差距，不过没啥成本，不联网也能用，日常测试用挺合适，很香的端侧模型。

https://ollama.com/library

再一次赞美 ollama！