面壁智能的MiniCPM5-2B端侧模型上线了,能本地跑智能体

比如把独立项目的文档全放在本机,整理、问答都在本地跑,不用一直挂着云端接口,数据也不出门,成本心里踏实——端侧模型吸引我的就是这个画面。面壁智能刚发了 MiniCPM5-2B,主打端侧,能在本地跑智能体,还能处理长文本。

小参数模型以前的毛病是上下文短,或者文档一长就掉链子。要是它真能在设备上稳住长文本,再带起一个能干活的本地agent,笔记整理、本地文档问答这些场景一下就多了。

具体占多少资源、长文本实测怎样,我得拉下来自己测过才敢下结论,先记一笔。

2B的话手机能塞得下吗?之前跑4B手机烫得不行

先看上下文给多长 标称和实际能用的经常两码事