做检索增强的，谁没被模型“不听话”气过？检索回来的上下文明明摆在那，该引用的不引用，瞎编的照样编。
所以IBM这次放出的Granite 3.3里，比起语音识别和推理增强，我更在意它专门给RAG搞的那个LoRA。思路是针对RAG场景单独微调，理论上能让模型更老实地贴着给定材料回答，对做企业内部知识库的挺对口。
IBM在企业市场深耕这么多年，出这种偏落地的东西不奇怪。实际效果嘛，还得拉下来自己跑一跑。
我们内部库光靠prompt约束引用，瞎编还是压不住
顶
把检索对齐做成LoRA挺讨巧的，就是不知道换个领域是不是还得重训一版