用 LLM 结对给一整个图像生成服务写文档,非程序员也能读懂大代码库

看到 FollowFox 那个系列的第三篇,讲的是拿 LLM 来啃 Distillery 这个生图服务的代码库,思路我觉得挺值得借鉴,尤其对我们这种不是科班出身、但又想搞懂系统怎么跑的人。

他们前面几篇是把整个代码全丢给模型让它做全局梳理,问题是代码库太大,逼近上下文上限,一是慢,二是长对话次数还被限额卡着。到第三篇他们换了个更省的做法:不再喂全量代码,而是把已经写好的那部分文档 + 当前要拆解的那个模块的代码一起喂进去,比如 distiller_worker 这个八百来行的脚本。

拆文档的套路挺固定的:先用工具把现有 obsidian 文档导成一个 PDF,再把目标脚本导成 PDF,两个一起附给模型,让它一节一节写。他们连 worker、master、outputparser、payloadbuilder 这些关键模块全过了一遍。

有意思的是最后那个坑:文档写着写着自己也变成三百页、五百多 KB 了,又把上下文撑爆了。所以下一步他们要上 RAG 和向量库来做检索。这个循环挺真实的,文档本身也会变成新的上下文负担。

这套路我在公司也用,喂文档比喂全量代码靠谱多了

五百页文档反过来撑爆上下文,真是自己卷自己

非开发者靠这个真能读懂大项目吗,持怀疑

RAG 那步才是关键,前面都是铺垫

repo2pdf 那个工具好用吗,求个链接

分模块喂确实是目前最省 token 的办法