Kakao一口气开源了四个轻量级语言模型，明确说是给手机这类设备做优化的。
端侧这条线现在挤进来的玩家越来越多，逻辑倒是不难理解：不联网、不上传、响应快，这三点对做应用的人来说比多几分跑分实在得多。真正的坑一般也不在模型本身，而在推理框架和芯片适配，同一份权重在两台手机上体验能差出一整个档次。
中文这块我持保留态度，主要面向韩语市场做的模型，多半不会把中文当重点，抱太高期待容易失望。想接进App的话，先看它给的是哪种格式和有没有现成的移动端推理支持。
Kakao一口气开源了四个轻量级语言模型，明确说是给手机这类设备做优化的。
端侧这条线现在挤进来的玩家越来越多，逻辑倒是不难理解：不联网、不上传、响应快，这三点对做应用的人来说比多几分跑分实在得多。真正的坑一般也不在模型本身，而在推理框架和芯片适配，同一份权重在两台手机上体验能差出一整个档次。
中文这块我持保留态度，主要面向韩语市场做的模型，多半不会把中文当重点，抱太高期待容易失望。想接进App的话，先看它给的是哪种格式和有没有现成的移动端推理支持。