H3 这次最实在的变化,是不再一个任务挂一个特化模型了。7月31日放出的这版把文本、图片、音频、视频收进同一个输入口,理解和生成也走同一套。开源官方说是近期,协议怎么定、权重以什么形式放都还没见到,这块我不猜。
我更想弄清的是"统一"到底统一到哪一层。如果是几个编码器拼在同一个骨干上,下游微调时你动一个模态,另一个经常被带崩;要是真共享表征,手感会差很远。2K 视频既然敢摆出来,推理侧的显存占用和时序处理估计也动过不少刀,这些都得等权重和技术报告。眼下能确定的,就是它从特化往通用挪了一步。
H3 这次最实在的变化,是不再一个任务挂一个特化模型了。7月31日放出的这版把文本、图片、音频、视频收进同一个输入口,理解和生成也走同一套。开源官方说是近期,协议怎么定、权重以什么形式放都还没见到,这块我不猜。
我更想弄清的是"统一"到底统一到哪一层。如果是几个编码器拼在同一个骨干上,下游微调时你动一个模态,另一个经常被带崩;要是真共享表征,手感会差很远。2K 视频既然敢摆出来,推理侧的显存占用和时序处理估计也动过不少刀,这些都得等权重和技术报告。眼下能确定的,就是它从特化往通用挪了一步。
说到点了