看到 FollowFox 那个系列的第三篇,讲的是拿 LLM 来啃 Distillery 这个生图服务的代码库,思路我觉得挺值得借鉴,尤其对我们这种不是科班出身、但又想搞懂系统怎么跑的人。
他们前面几篇是把整个代码全丢给模型让它做全局梳理,问题是代码库太大,逼近上下文上限,一是慢,二是长对话次数还被限额卡着。到第三篇他们换了个更省的做法:不再喂全量代码,而是把已经写好的那部分文档 + 当前要拆解的那个模块的代码一起喂进去,比如 distiller_worker 这个八百来行的脚本。
拆文档的套路挺固定的:先用工具把现有 obsidian 文档导成一个 PDF,再把目标脚本导成 PDF,两个一起附给模型,让它一节一节写。他们连 worker、master、outputparser、payloadbuilder 这些关键模块全过了一遍。
有意思的是最后那个坑:文档写着写着自己也变成三百页、五百多 KB 了,又把上下文撑爆了。所以下一步他们要上 RAG 和向量库来做检索。这个循环挺真实的,文档本身也会变成新的上下文负担。