用ollama试了试本地模型，70b完全不能跑，5800x3D CPU占用100%，64G内存吃掉50G，一个字一个字的跳；7b跑起来倒是很轻松，但因为规模问题，复杂一点的生成诉求，结果照在线版本都差很多。但未来一定是非常非常可期的！