VidDub:用兩步去噪讓影片嘴形跟隨新配音

換了配音,嘴形也要跟着改。VidDub 嘗試保留人物與場景,同時縮短影片生成所需步驟。

VidDub

替訪談或角色影片換上新配音,VidDub 這套音訊驅動影片配音系統會調整嘴形,目標是保留原有人物、頭部姿態與背景,適合需要沿用原片表演的創作流程。

原音重建訓練會要求模型重現錄下的嘴形,換成另一段說話後便可能形成衝突。VidDub 以 replacement-aware cross-audio supervision,在替換語音樣本中遮蔽原嘴部的重建監督,改由聲畫同步訊號引導發音動作。

完整上下文教師模型再經蒸餾訓練出兩步去噪學生模型,壓縮生成步驟。項目報告單張 H20 達 11.3 FPS,但限於輸入已完成預處理的測量,不能視為端到端即時速度。

  • 長片透過重疊窗口推理。
  • 提供模型權重與訓練程式碼。
  • 可透過社群示範或 OpenDub 應用體驗。

三個訓練種子的實驗中,移除衝突嘴部監督令替換音訊 Sync-C 同步評分提升 0.833±0.04。配音團隊仍宜用自己的素材檢查嘴形、人物一致性及長片接縫;同步分數不足以代表整段成片品質。

項目主頁 · GitHub · 模型

Categories: 開源, AI productions, 模型, 多模態模型, 模型訓練, NVIDIA, Video, Audio, 語音, Dataset 數據集