Colossal-AI升级,号称AIGC和千亿大模型一行代码自动并行,硬件预算最高直降46倍。46倍我不太信,多半是挑最优配置比出来的。自动并行倒是对路,手动切张量、调流水线太劝退。回头拉下来测测“一行代码”的水分。
最高直降46倍,重点全在最高俩字上
封装掉也有代价,出了问题排查更抓瞎
自动并行省的是人力,手动调分布式那套配置能把人熬秃,省钱倒是顺带的
Colossal-AI升级,号称AIGC和千亿大模型一行代码自动并行,硬件预算最高直降46倍。46倍我不太信,多半是挑最优配置比出来的。自动并行倒是对路,手动切张量、调流水线太劝退。回头拉下来测测“一行代码”的水分。
最高直降46倍,重点全在最高俩字上
封装掉也有代价,出了问题排查更抓瞎
自动并行省的是人力,手动调分布式那套配置能把人熬秃,省钱倒是顺带的