刚看到通义实验室放出了Wan-Streamer的v0.2版本,主打实时AI视频电话,官方给的响应延迟是550ms。550ms这个数放到实时对话里已经算能接受的区间了,基本就是你说完话对面接近立刻有反应的感觉,再往下压才谈得上无感。
之前做实时数字人或者AI视频通话,卡的一直不是模型好不好看,而是那口气接不上,延迟一高整个人就像在打越洋电话,聊两句就没耐心。这次专门朝streaming方向迭代,方向是对的。
具体怎么算这个550ms、是端到端还是只算推理这块,官方页面我还没抠细,等有实测的可以贴一下。做直播连麦、虚拟客服、陪聊这类场景的应该会比较关心这个数字。