Kandinsky 6.0 把同步聲畫生成帶入開源模型

2026 年 10 月 7 日 Share to X Facebook Copy link

Kandinsky 6.0 可由文字或圖片生成帶同步音效、口形的短片，並提供 3B 與 29B 兩款模型。

由文字或圖片輸入，到畫面、音效和口形同步輸出的流程，Kandinsky 6.0 將短片生成由單純影像延伸至完整 audio-video 內容。這個項目屬於開源多模態視頻模型，實際處理的是聲音與畫面難以同步、創作者需要分開製作素材的問題。

Kandinsky 6.0 Video Lite 有 3B 參數，Kandinsky 6.0 Video Pro 則有 29B 參數，兩者都能生成 5 秒片段、44 kHz 音訊及 lip-sync，支援 text-to-audio-video（T2AV）和 image-to-audio-video（TI2AV）。額外的 super-resolution 模型可把輸出提升至 Full-HD 1920×1080，但這並不代表原生生成階段已經以 Full-HD 運作。

• 同一生成流程處理視頻、音效和口形同步
• Lite 較適合資源有限的測試，Pro 追求更高生成能力
• 支援文字生成及圖片延伸兩種模式
• 可透過 Hugging Face Space、Diffusers、ComfyUI 或 vLLM-omni 接入

測試需要 NVIDIA GPU，以及 Python 3.13 或 3.14；首次執行會下載 Kandinsky-6.0-Pro-distill-5s 權重，輸出會寫入項目指定的 MP4 路徑。對不想自行配置環境的創作者，Hugging Face Space 是較直接的試用入口；需要納入工作流的團隊則可考慮 Diffusers 或 ComfyUI。

在非精簡版顯示卡上處理 5 秒影片片段的工作時間（秒）。不包括負載載入和 MP4 編碼時間。 RTX PRO 6000 (96 GB)、A100 80 GB 和 H100 80 GB 使用模組卸載。消費級顯示卡使用區塊卸載。 RTX 4090、RTX 5060 Ti、RTX 5080、RTX 5090、RTX PRO 6000 和 A100 80 GB 使用 SageAttention2++ 進行視覺自註意力控制。 H100 使用 FlashAttention 3。

	RTX 4090	RTX 5060 Ti	RTX 5080	RTX 5090	RTX PRO 6000	A100 80 GB	H100
Lite SD	437	1310	577	309	242	532	239
Lite HD	422	1328	579	296	274	472	203
Lite Full HD	578	1774	770	406	387	664	284
Pro SD	936	3080	1336	754	621	972	356
Pro HD	1194	2716	1189	638	561	791	292
Pro Full HD	1247	3530	1546	854	765	1106	402

Kandinsky 6.0 適合製作概念片、角色對白及需要同步聲畫的短內容，但 5 秒時長、NVIDIA GPU 依賴，以及高解像度要靠額外模型處理，仍限制了它作為長片生產工具的角色。

項目主頁 · GitHub · 模型

Categories: 開源, ComfyUI, 模型, 多模態模型, 視頻模型, NVIDIA, Video, Image, 影像處理, Audio, 工具, Content Creator, Python, Dataset 數據集

---

HelixWorld 即時生成互動視聽世界

2026 年 10 月 6 日 Share to X Facebook Copy link

輸入一張圖片和提示詞，再用方向指令探索場景，HelixWorld 會同步更新畫面與空間聲音。預覽版已提供瀏覽器示範及離線推理程式碼，但硬件門檻不低。

轉身時，聲音方向也會跟着視角改變，這是 HelixWorld 與一般先生成畫面、再配上音軌的做法不同之處。它是 Noiz AI 開發的即時互動視聽世界模型，讓使用者從一張圖片和提示詞出發，以方向指令在生成場景中移動，並同步產生影像與聲音。

瀏覽器示範適合先感受互動效果；想離線測試，則可使用已公開的 Preview v1 推理程式碼和預覽模型。它目前支援 Linux、Python 3.11 和 CUDA 12.x，建議使用配備 80 GB VRAM 的 NVIDIA GPU；BF16 單卡測試約需 70 GB VRAM，對個人電腦使用者而言是明顯門檻。

操作時可輸入前進、轉向或停止等動作，並設定第一人稱視角及生成影格數；提示詞亦可分別描述影片、音訊或視聽內容。輸出會整理成 MP4，適合研究人員、互動內容創作者及想探索空間音效生成的團隊測試，但目前公開資訊未提供性能評測數據，亦未公開完整模型與訓練資料。

• 畫面和聲音會隨鏡頭移動同步更新，空間聲場跟隨視點改變。
• 可先用瀏覽器示範體驗，也可在符合硬件條件的 Linux 系統離線推理。
• 預覽版已開放，完整模型、訓練資訊及報告仍待公開。

HelixWorld 展示了視聽生成從固定片段走向可操控場景的一種做法；不過，現階段的高顯示記憶體需求和有限評測資訊，令它較適合研究與原型測試。

項目主頁 · GitHub

Categories: 開源, AI productions, 模型, 多模態模型, 世界模型, 模型訓練, NVIDIA, Video, Image, Audio, 提示詞, Content Creator, Linux, Python

---

Fold2Reason 讓語言模型學懂蛋白質結構

2026 年 10 月 6 日 Share to X Facebook Copy link

Fold2Reason 把蛋白質結構監督加入語言模型訓練，嘗試兼顧一般推理與三維結構讀取。

要讓語言模型處理蛋白質問題，難點不只在文字理解，還包括如何保存三維空間關係。Fold2Reason 屬於模型訓練與研究型開源項目，透過 FoldingCorpus 監督資料、共享 spatial workspace 和凍結的 geometry decoder，處理語言模型推理與蛋白質結構讀取之間的銜接。

項目以 Qwen3.5 為主要訓練及評估流程，適合研究人員比較蛋白質結構後訓練對一般能力的影響。結構輸出不直接由語言模型單獨完成，而是交由 workspace 配合 decoder 讀取；一般推理則以適配後的語言模型評估，兩條結果路徑有清楚分工。

相較於只用 FoldingCorpus 訓練的 Pure-LoRA baseline，Fold2Reason 額外引入共享空間表示和凍結幾何解碼器，換來較完整的結構處理流程，同時增加資料、權重與硬件要求。項目提供確定性資料準備、LoRA/workspace checkpoint、已訓練 checkpoint 評估，以及重新訓練所需的管線。

• 需要 Python 3.12、CUDA 相容的 PyTorch，以及指定版本的 Transformers 和 PEFT
• dataset.zip 另行提供訓練資料、凍結 decoder 和三組 checkpoint
• 可評估已發布 checkpoint，亦可重新進行 Qwen3.5 訓練
• General-10 分數聚合器用於整理一般推理結果
• 各基準測試相對基礎模型的增益，但未在提供內容列出完整數值

適合研究團隊、蛋白質 AI 模型後訓練及多模態空間表示方向的開發者。它未必適合只想快速調用蛋白質預測功能的使用者。但作為比較 LoRA、空間 workspace 與凍結幾何 decoder 的可重現實驗基礎，項目提供了比單一模型權重更完整的驗證路徑。

GitHub

Categories: 開源, 模型, 多模態模型, 模型訓練, Qwen, NVIDIA, Medical醫學, 3D, Python, Dataset 數據集, LoRA

---

GTR 以循環架構壓低高解像度視覺推理成本

2026 年 10 月 6 日 Share to X Facebook Copy link

GTR 以無 softmax 的循環式視覺骨幹處理多種密集預測，在速度與精度之間尋找更實用的平衡。

高解像度影像令全域 softmax attention 的計算量隨 token 數量平方增加，GTR 以無 softmax 的循環式視覺骨幹處理這個瓶頸，支援物件偵測、分割、姿態、深度及定向偵測。它屬於視覺模型，實際解決同一組影像特徵如何兼顧多種密集預測任務與推理速度。

GTR 由 12 層 Gated Linear Attention（GLA）組成，每層輪換二維掃描方向，再配合加入 3×3 depthwise convolution 的 Spatial SwiGLU，補足鄰近 patch token 的局部資訊。模型以 stride-16 單尺度特徵圖運作，並透過輕量三尺度 projector 和 query-based head 輸出不同任務所需結果。

• 以單次平方 L2 loss，將學生模型最終 patch token 對齊 detection-specialized DINOv3 teacher
• 同一個 GTR backbone 支援六類密集預測任務
• RTX 4090、FP16、batch 1 下，GTR-L 達到 58.9 COCO box AP，median forward pass 為 1.908 ms
• 提供 chunkwise CUDA operator，亦支援 TensorRT 部署到 DRIVE AGX Thor

倉庫包含環境準備、資料處理、訓練、評估、推理及 TensorRT 部署流程，適合研究高效視覺骨幹、車載感知或需要多任務共用模型的團隊。代價是 CUDA 專用算子及編譯流程提高了硬件依賴；官方延遲數字來自 RTX 4090 或 DRIVE AGX Thor 的特定設定，換用其他裝置時仍需重新量度。

項目主頁 · GitHub

Categories: 開源, 香港科技大學, 模型, 視覺模型, 模型訓練, NVIDIA, Image, 香港, 庫

---

DMAD：MiniMax-H3 影片生成壓縮至四步

2026 年 10 月 5 日 Share to X Facebook Copy link

DMAD 將 MiniMax-H3 的 50 步生成流程壓縮至 4 步，兼顧 1344×768 影片與原生立體聲音輸出。

由 50 步縮至 4 步，DMAD 讓 MiniMax-H3-33B 可以更快完成文字轉音訊影片生成，同時保留 1344×768 影片及原生立體聲音。這項目屬於模型蒸餾與推理工具，實際處理的是高質素生成與推理速度之間的取捨。

項目提供兩個 rank 128 的 LoRA，每個約 1.4GB，分別是論文使用的 lora critic，以及在 AVGen-Bench 取得較高分數的 full critic。它們都掛載於 H3 transformer，將 50 步 teacher 轉成四步 student；DMAD 以兩個 discriminator head 分辨真實資料、teacher 樣本與 student 樣本，直接學習 log-density ratio，省卻 DMD 所需的輔助 diffusion model。

DMAD

• 4 步生成 1344×768 影片及立體聲音
• 提供 lora critic 與 full critic 兩個版本
• 支援獨立推理程式及 Diffusers pipeline
• 方法以 adversarial distillation 取代額外 score fitting

MiniMax-H3 與 rCM 的人類偏好比較為 84.6%，但 AVGen-Bench 只明確指出 full critic 分數較高，未提供具體差距；選擇模型時仍應按畫面質素、聲畫同步及硬件成本自行測試。

項目主頁 · GitHub · 模型

Categories: 開源, AI productions, 模型, 多模態模型, 模型訓練, NVIDIA, Video, Image, Audio, 工具, MiniMax, LoRA

---

AcademiaSD LoRAlab Trainer Studio：訓練影像與影片 LoRA

2026 年 10 月 5 日 Share to X Facebook Copy link

把多個模型的 LoRA 訓練流程集中到一個介面，支持消費級 NVIDIA 8G 顯卡。

想為角色、物件或畫風訓練 Low-Rank Adaptation（LoRA），不一定要準備高階顯卡；AcademiaSD LoRAlab Trainer Studio 是一套 LoRA 訓練工具，目標是在最低 8 GB VRAM 的消費級 NVIDIA GPU 上處理最新影像及影片模型，並把不同 trainer 收進同一個 Web 介面。

每個模型會以 4-bit NF4 載入，文字編碼器與 VAE 只在 pre-cache 階段執行一次，之後把 GPU 資源集中到訓練。項目支援 Windows 10、Windows 11 及 Linux，使用 Python 3.13、PyTorch 2.14 cu130，以及 Flask + HTML5 介面；同一套安裝環境可加入後續新增的 trainer，毋須為每個模型另建環境。

工作流程包括資料集管理、自動 caption、即時預覽、精確步數續訓及一鍵匯出至 ComfyUI。訓練期間可以修改 steps、儲存及預覽頻率、預覽設定和 learning rate，按下 Save JSON 後，變更會在下一步生效；每個項目亦會分開保存 pre-cache、checkpoint、預覽圖及 LoRA 輸出，刪除快取或訓練內容不會碰到資料集。

• 匯出的 LoRA 帶有 kohya-style metadata，包含 trigger word、rank、steps 和 resolution
• CivitAI 及 LoRA managers 可以讀取相關 metadata
• 一般角色、物件和風格 LoRA 可採用一張圖片配一段 caption
• 可從同一網絡的其他裝置上載資料集及下載 LoRA

這套工具較適合想在本機反覆試驗、又不想手動管理多個訓練環境的創作者和小型團隊。預覽圖只用來追蹤訓練進度及角色、物件或風格的相似度，不能直接當成最終品質；完成後仍要在 ComfyUI 或 Forge 調整 LoRA 強度及模型品質設定。由於多個模型支援接近同時加入，README 亦明確提醒可能存在錯誤、未完善設定，以及預設訓練參數未必適合每個資料集，使用者需要自行測試並透過 Issues 回報結果。

GitHub

Categories: 開源, ComfyUI, AI productions, 模型, 模型訓練, NVIDIA, Video, Image, 工具, Content Creator, Linux, Python, Win, LoRA

---

SoL-Refiner 高解像度影片生成加速 27 倍

2026 年 10 月 2 日 Share to X Facebook Copy link

先完成低解像度草稿，再用一次去噪提升至高解像度，SoL-Refiner 大幅縮短影片生成時間。

高解像度影片生成往往受限於大量時空 tokens，SoL-Refiner 以影片精修模型處理這個瓶頸：先由不同基礎生成器製作較低解像度草稿，再用一次目標解像度去噪輸出最高 4K 影片，毋須進行多步精修。

NVIDIA Research 的訓練流程結合高解像度持續訓練、frame-based RL post-training，以及 one-step distribution-matching distillation，並支援 bidirectional 和 streaming inference。方案可接駁 MiniMax H3、SANA-Video、Cosmos-Nano 和 WAN 等不同生成器，令精修模組毋須綁定單一模型。

• 一次高解像度去噪，減少第二階段採樣成本
• 支援多個影片生成器，改善跨模型工作流程
• 在 2K 保持具競爭力，4K 指標優於 LTX-2.3
• WAN 和 Cosmos-Nano 測試中，平均質素亦有所提升

以五秒、1344×768、24 fps 影片測試，MiniMax H3 直接生成高解像度版本需 152.3 秒；低解像度生成加 SoL-Refiner 的兩階段流程只需 5.6354 秒，量得 27.03 倍牆鐘速度提升。測試使用 NVIDIA GB200，每個階段各佔用一張 GPU，實際速度仍會受硬件、基礎生成器和影片設定影響。

SoL-Refiner 適合需要大量高解像度影片、但又要控制推理延遲的內容製作流程。它以額外的低解像度生成階段換取更快的高解像度輸出，質素和速度之間的取捨仍取決於輸入草稿及所選生成器。

項目主頁 · GitHub · 模型

Categories: 開源, AI productions, 模型, 視頻模型, NVIDIA, Video, Image, 教學, Python, LTX, MiniMax

---

DyRAD 讓雷達透過多視覺重建動態駕駛場景

2026 年 10 月 2 日 Share to X Facebook Copy link

DyRAD 把錄製雷達資料轉成可重新渲染的動態場景，連感測器位置、物件動作和規格變更都能納入測試。

由已錄製的雷達、感測器姿態和物件框，DyRAD 可以生成原本沒有記錄過的新視點，甚至模擬車輛橫向移動、物件重新定位或更高解析度的感測器。這個項目屬於開源雷達新視點合成模型，處理的是自動駕駛系統缺乏非原路線觀測資料的問題。

它把靜態背景反射點與跟隨剛體物件軌跡移動的動態反射點分開建模，並用 range–azimuth–Doppler (RAD) 中的 Doppler 速度約束物件追蹤。反射點不會直接吸收雷達訊號擴散，而是經由 point-spread function (PSF) 渲染；PSF 取自 Hamming-FFT 的距離及 Doppler 處理，以及 RADIal 的 beamformer response，令場景幾何與感測器特性分離。

這個取捨令同一個重建場景可以轉移到不同雷達規格，毋須重新擬合，亦較適合閉環測試和感測器配置研究；代價是需要姿態、物件框和雷達校準等資料，Boreas 更只支援 range–azimuth，未能完整利用 Doppler。項目支援 RADIal、Boreas 及具備偏移視點真值的 synthetic benchmark，可按 README 提供的設定訓練、載入 checkpoint，再以 held-out metrics 和重新擬合流程檢查結果。

• 支援完整 RAD tensor，而非只重建距離及方位
• Doppler 同時作為輸出和動態軌跡監督訊號
• 可測試 lateral sensor shift、物件編輯及高解析度感測器
• Project page 指出其 RAD PSNR 和 detection hit rate 高於 RadarSplat、RadarFields
• 適合自動駕駛、雷達感知及模擬資料團隊研究非原路線測試

對需要驗證感知模型在新路線、新感測器或場景變更下表現的團隊，DyRAD 提供比單純錄播更有彈性的資料生成方式。不過結果仍受初始標註、物件軌跡品質、雷達校準和合成視點真值限制，未能取代真實道路測試。

項目主頁 · GitHub

Categories: 開源, 模型訓練, NVIDIA, Dataset 數據集

---

Physis-Lang 讓影片模型理解物理因果

2026 年 10 月 1 日 Share to X Facebook Copy link

影片畫面看似合理，動態卻可能違反物理規律。Physis-Lang 以可演化的物理語言，改善影片資料整理、訓練與生成。

當影片模型能生成融化中的牛油，卻未必理解升溫、重力與形變之間的關係，Physis-Lang 便嘗試補上這個落差。這個由 NVIDIA、MIT 與 University of Oxford 研究團隊提出的 Video World Model 研究項目，把物理因果、相互作用、支配原理與結果寫進共享語言表示，協助模型生成更合理的世界演化過程。

Physis-Lang 不只描述畫面發生了甚麼，還要求字幕交代事情為何發生。例如牛油融化的描述會進一步指出升高的溫度提供熱力，熱力促成融化，而重力令牛油向下塌成淺層液體。物理概念會經由 Physics-aware critic 找出遺漏或缺乏視覺證據的說法，再由 agent 修訂共同的 captioning guidelines，captioner 本身則維持不變。

整套方法連接資料整理、模型訓練與推理：模型失敗會轉化成物理領域查詢，再透過 language-guided retrieval 找出能補足缺口、而且視覺內容多樣的影片；演化後的語言會重新製作訓練字幕，並擴展 inference prompts，同時加入針對場景的 negative descriptions，減少不合理動態。

• PhysCapBench 收錄 246 段經審核的物理影片及 3,794 個人工驗證 assertions
• 評估字幕對物理細節的 precision、recall 與 F1
• Physis-Lang · Cosmos3-Super 在 Physics-IQ 公開排行榜列第一，平均分數為 48.2 ± 1.4
• Physis-Lang · Cosmos3-Nano 列第二，平均分數為 43.3 ± 1.5

這項研究適合關注 Video World Models、物理推理和影片生成可靠性的讀者。排行榜結果顯示，加入可演化的物理語言後，Cosmos3 系列模型在相關評測中取得進展，但分數只反映指定基準，並不代表所有影片場景都能避免物理錯誤。

項目主頁

Categories: Agentic, 世界模型, 模型訓練, NVIDIA, Video, 框架

---

ThinkV2V 讓影片編輯先思考再生成

2026 年 10 月 1 日 Share to X Facebook Copy link

ThinkV2V讓多模態模型先理解影片中的因果與隱含意圖，再交由DiT完成較複雜的指令式影片編輯。

面對「按場景關係修改影片」這類指令，單靠文字語意對齊往往不足。ThinkV2V屬於推理導向的影片編輯框架，讓Multimodal Large Language Model（MLLM）先分析來源影片與指令，再把推理結果轉成DiT影片生成器可用的條件訊號，處理物件關係、時間變化及隱含意圖。

MLLM並非只擔任靜態語意編碼器，Qwen3-VL-8B-Thinking負責理解和推理，connector則把相關特徵對齊至DiT條件空間；原始文字嵌入、MLLM隱藏狀態及來源影片的VAE特徵會一同交由ThinkV2V-5B執行編輯。訓練由穩定的基本編輯逐步過渡至高解像度及推理密集案例，推理階段亦會生成多個候選計劃，再由MLLM篩選較可靠的一個。

• 適合場景：需要根據時間脈絡、物件互動或因果關係修改影片的工作流程。
• 評估資源：提供ThinkV2V-150K訓練數據集及ThinkV2V-Bench，後者包含308個樣本和5類推理密集編輯，預設支援720p。
• 執行條件：Python 3.10、CUDA 12.x、PyTorch 2.6.0，並以torchrun或accelerate進行多GPU運算。
• 資料限制：OpenVE-HQ-1M與ThinkV2V-150K主要是metadata釋出，下載腳本不會一併取得OpenVE-3M影片資料。

項目需要同時準備ThinkV2V、Qwen3-VL-8B-Thinking、Wan2.2-TI2V-5B及Lucy-Edit-Dev等權重，並按儲存庫指定的data與weights結構放置，較適合有CUDA多GPU環境及影片生成經驗的研究團隊。它相較只把MLLM當編碼器的做法，換取更深入的指令理解，但推理、多候選篩選及多模型權重亦會增加顯存、時間和安裝成本；儲存庫提供模型、資料集與基準測試，卻未在提供內容中列出可直接引用的量化領先幅度，不能只憑架構宣稱全面勝過其他影片編輯器。

項目主頁 · GitHub · 模型

Categories: 開源, 香港中文大學, 字節跳動, AI productions, 模型, 多模態模型, 模型訓練, Qwen, NVIDIA, Gemini, Video, 框架, 香港, Python, 庫, Dataset 數據集

---