阿里视频生成模型加了语音驱动,数字人这块又近一步

阿里的视频生成模型这次升级加了语音驱动:给一段音频,画面里人物的口型、表情就跟着声音动。做数字人口播、虚拟主播这类内容,门槛又降了一截。准备上手的话,我按自己的思路拆成几步看:

  1. 先弄清楚省掉的是哪道工序。以前想让画面里的人「说话说得像」,要么绿幕实拍,要么用专门的对口型工具在后期一点点对。现在生成阶段就能把口型带上,等于直接砍掉一道后期。最受益的是不想真人出镜的场景,做短视频、口播号的会很有感。
  2. 拿自己的素材测,别信演示。官方演示一贯挑最好的放。口型贴合度、表情自然度,得用你平时真会用的那种音频去跑,跑出来才算数。
  3. 单独测语言和口音。适配范围到哪、边界在哪,只有试过才知道,别默认啥音频都能吃。
  4. 前面都过关再算账。真能稳定用,对口播号就是实打实的效率提升,而不是演示里好看。

往大了说,生成式视频从「动起来」走到「说得像」,这一步跨得挺关键,后面就看实际素材的表现能不能跟上。

口播号不想露脸的有救了

中文口型准不准啊,很多工具都是英文优先

数字人这块今年进步是真快

1 个赞

动是能动,眨眼节奏一不对还是一眼假