医疗问答场景做微调,数据质量比模型选型重要太多

医疗问答机器人,难点真的在选哪个底座、用哪种微调方法吗?我在这类专业垂域踩过坑,体感是数据比这些重要太多。

医疗问答对准确性要求极高,一条错误答案的代价跟闲聊机器人根本不是一个量级。真正的工作量在语料清洗、标注,还有幻觉控制。

微调能让模型学会这个领域的说话方式和术语,但事实性还是得靠检索加约束兜底,纯靠参数去记知识,风险太大。

在医疗场景真跑过的朋友,你们幻觉是怎么控的?

垂域微调数据决定上限,模型只是下限

医疗幻觉是真要命,我们全靠检索兜底

1 个赞

标注成本高到离谱,专业标注得请医生

蹲控幻觉的具体做法