InferNews

MiniMax H3 4-bit 量化保留原生影音生成

2026 年 10 月 4 日

MiniMax H3 壓縮至 4-bit 後，仍保留影片與音訊生成能力。

要在較有限的硬件資源下製作影片，又不想放棄同步音訊，MiniMax H3-QuantFunc-4bit 提供了一個量化選擇。頁面將它定位為 MiniMax H3 的 4-bit 量化版本，而非獨立微調模型；原始基礎模型可確認為 MiniMax H3，但未交代更完整的 base model 訓練資料或微調流程。

模型把核心權重精度由 16-bit 降至 4-bit，官方稱壓縮幅度約為 4 倍，並宣稱角色細節、風格一致性及快速動作仍可維持。它支援 text-to-video、image-to-video，以及原生 video+audio generation；附真人演出、動畫追逐、高速汽車及風格化角色展示生成結果。

FL2VA 在相同提示詞及 seed 下，QuantFunc INT4 對 BF16 基準取得約 23.7 dB PSNR。這個數字可用作重建品質參考，但屬項目方的內部測試，未有列出測試硬件、影片設定、速度或顯存用量，因此不能單憑該指標推算日常生成體驗。

標籤包含 svdquant、int4、quantized 及 comfyui，但沒有交代量化演算法細節。
頁面未提供 GGUF 檔案名稱、檔案大小、mmproj、上下文長度或推薦量化級別。
未列明 llama.cpp、Ollama 或 LM Studio 支援，也沒有硬件需求及 MTP draft speculation 資訊。
項目連結 ComfyUI-QuantFunc，較適合配合相關工作流探索；授權為 MiniMax H3 Community License，使用前應查閱條款。

模型

Categories: 開源, ComfyUI, AI productions, 模型, 視頻模型, 模型訓練, Video, Image, 影像模型, 影像處理, Audio, 提示詞, Discord, LLaMa, Ollama, 動畫, MiniMax

ComfyUI-Omnichar：用 .char 讓角色跨模型保持一致

2026 年 10 月 4 日

ComfyUI-Omnichar 把角色參考圖、描述和 LoRA 收進同一個 .char，方便在圖像與影片模型之間保持人物連貫。

同一角色要跨圖像與影片模型維持相同面孔、服裝和身形，ComfyUI-Omnichar 以可攜式 .char 檔案處理這個問題。它屬於 ComfyUI 自訂節點工具，讓角色資料不必隨每個工作流程重新整理。

.char 可保存參考圖、鎖定描述，以及可選的訓練 LoRA；檔案可以由 Omnichar Studio、Omnichar Cloud 或 Encode Character 建立，再交給 FLUX.2、MiniMax H3、Krea2、klein9B 及 klein4B 使用。相較於每次手動接入參考圖，這種方式把角色資料、圖片順序和提示詞編號固定下來，代價是工作流程需要配合支援 references 的模型。

透過 Load Character 讀取 .char 檔案
Encode Character 可分別加入 face、body 和 cloths 參考圖
Decode Character 可輸出 conditioning、references 和 prompt
角色附有 LoRA 時，可同時套用至 MODEL 和 CLIP

安裝需要 ComfyUI、Python 3.10+ 和 omnichar-sdk；.char 檔案放入 ComfyUI/models/characters/ 後，便可由載入節點選取。需要共用 Omnichar Studio 資料夾時，也可設定 INLINE_CHARACTERS_DIR，讓兩邊讀取同一批角色檔案。

生成結果仍會受所選模型、參考圖質素和 GPU 資源影響。對需要製作連續角色插畫、分鏡、短片或多模型內容的創作者，.char 的集中管理會比散落在不同 workflow 的參考圖更容易維護；偏好完全手動控制的人，則未必需要加入這層封裝。

GitHub

Categories: 開源, ComfyUI, AI productions, 模型, 模型訓練, Stable Diffusion, API, Video, Image, 提示詞, 工具, Content Creator, Python, MiniMax, LoRA

Awesome-Video-Generation-Post-Training：影片生成後訓練研究，一個持續更新的索引

2026 年 10 月 4 日

影片生成模型的競爭已延伸到後訓練與對齊，這項目把論文、數據集及評測基準集中整理。

當影片生成模型由「能夠生成」走向「更符合指令、更穩定、更易評估」，研究者需要追蹤的不只是預訓練架構。Awesome-Video-Generation-Post-Training 是一個研究資料整理項目，集中收錄影片生成的 post-training、alignment、相關數據集及 evaluation benchmarks，亦配套一篇 Video Generation Models: A Survey of Post-Training and Alignment 綜述論文。

它不提供可直接執行的生成模型，主要在於縮短研究資料搜尋時間。你可按分類閱讀近期論文、對照不同後訓練方法，再沿着數據集與評測基準追查研究如何衡量影片品質、指令遵從及對齊效果；項目內容會持續更新，亦接受透過 pull request 補充論文、修正資料或建議分類。

資料範圍：聚焦影片生成的 post-training 與 alignment 研究
配套資源：整理相關 datasets 及 evaluation benchmarks
閱讀方式：適合由綜述論文入門，再按分類深入原始研究
參與方式：可提交 pull request，補充或修訂索引內容

對研究生、影片模型開發團隊及需要整理文獻的工程師而言，這項目比零散搜尋更方便建立研究地圖。它的限制亦很清楚：索引本身沒有統一跑分、推理介面或安裝後即可測試的模型，性能判斷仍要返回各篇論文查看實驗設定與指標。

GitHub

Categories: 開源, AI productions, 模型, 視頻模型, 模型訓練, Video, World-Action Model, Dataset 數據集

Vlo 把 ComfyUI 帶進本地影片剪輯時間線

2026 年 10 月 3 日

Vlo 將生成式 AI、ComfyUI 和傳統剪輯工具放在同一條時間線，適合想在本地處理影片的創作者。

想在影片時間線內直接交給 AI 做遮罩、修補或畫面變換，Vlo 提供了一條較完整的工作流程。它屬於免費、開源的本地影片編輯器，處理的是生成式 AI 與逐格剪輯之間難以銜接的問題，亦支援在本機或遠端 GPU 上編輯同一批本地項目檔案。

Vlo 把 ComfyUI bridge 接入編輯器，圖片、影片和時間線選取內容都可以送入 ComfyUI 工作流；SAM2 points editor 則用於遮罩，並配合自動裁剪與拼接處理 video inpainting。自動調整 aspect ratio 讓不同影片模型處理素材時毋須先裁走畫面，色彩校正、音訊、版面、濾鏡、keyframes、spline editor、beat detection 和可吸附 markers，則補上傳統剪輯所需的控制。

測試時需要 Chromium-based browser，官方已測試 Chrome 和 Edge；Firefox 由於 WebCodecs 實作差異，早期測試曾出現明顯延遲。媒體渲染由 mediabunny 包裝 WebCodecs，配合 File System Access API 直接管理磁碟檔案，但清除瀏覽器資料後可能遺失項目資料夾位置。

ComfyUI 工作流可直接套用到時間線選取內容
SAM2 遮罩支援影片修補流程的自動裁剪與拼接
本地項目可配合本機或遠端 GPU 編輯
具備逐格影片編輯所需的 keyframes 和 spline 控制
目前依賴 Chromium，瀏覽器兼容性是主要限制

Vlo 較適合需要把 AI 影片生成、inpainting 和傳統後期剪輯放在同一個工作區的創作者或小型團隊。項目沒有提供可直接比較的性能指標，現階段較能確認的是它以 WebCodecs 支撐 frame-accurate nonlinear video editing，並以可擴展的 ComfyUI 工作流延伸功能；瀏覽器限制和本地檔案管理方式，仍會影響團隊採用前的測試安排。

GitHub

Categories: 開源, ComfyUI, AI productions, 模型, 視頻模型, API, Video, Image, 影像處理, Audio, 工具, Content Creator

OneStreamer 讓串流影片懂得記憶與適時回應

2026 年 10 月 3 日

影片畫面離開視窗後，OneStreamer 仍可保留具時間線索的證據，並自行判斷何時已有足夠資訊回應問題。

直播影片一閃即逝，畫面離開模型的視覺視窗後，之後的提問仍可能需要引用那些細節。OneStreamer 屬於串流影片大型語言模型，處理的正是記錄證據、理解新畫面，以及在資料足夠時主動回應之間的取捨。

它以 Qwen3-VL-4B-Instruct 為基礎，OneStreamer-4B 透過 Proactive Hierarchical Caption Memory（PHCM）保存局部細節和已完成事件摘要，再配合近期畫面作答，減少重看歷史影片特徵的需要。Proactive State Transition Learning（PSTL）則保留輸出錨點，挑選具代表性的狀態變化與持續狀態，只有 27.5% 標註狀態 tokens 需要監督。

你可從 Hugging Face 取得 OneStreamer-4B 模型及 OneStreamer-1M 數據集，配合串流影片、問答或字幕資料測試；儲存庫目前提供模型、數據集和示範頁面，但完整推理指令未在提供內容中列出，因此部署前仍需確認執行框架、硬件需求和輸入格式。OneStreamer-1M 合併串流字幕、串流 QA 及整理後的開源資料，共有 1.16M 筆互動記錄。

八項涵蓋線上感知、記憶和主動回應的基準測試中，OneStreamer-4B 在比較方法中取得最高的整體結果；這對需要持續觀看教學、監控或家庭影片的團隊較有參考價值，但生成式記憶仍可能受字幕品質、延遲和錯誤累積影響。

PHCM 同時保留局部細節與完成事件摘要
PSTL 針對回應時機和重複等待狀態作訓練
模型、數據集及示範頁面均已公開
八項基準測試涵蓋感知、記憶與主動回應
適合研究串流影片理解及長時間上下文的團隊

項目主頁 · GitHub · 模型

Categories: 開源, 香港中文大學, 南京大學, AI productions, 模型, 視覺模型, 模型訓練, Qwen, Video, 框架, 教學, 庫, Dataset 數據集

4Director：3D 幾何精準控制影片世界模型

2026 年 10 月 3 日

4Director 將鏡頭、物件與新加入的物件放進同一個 3D 空間，改善影片生成中動作失控和視角不一致的問題。

想令影片中的鏡頭、原有物件和新加入的物件按指定路徑移動，4Director 提供了一個較接近 3D 動畫製作的控制方式。它屬於影片世界模型，處理的是生成影片時深度、旋轉和跨視角一致性難以同時維持的問題。

系統會先為每件物件重建一個 canonical mesh，再以每幀一組 rigid transformation 推動物件，並把整個場景渲染成深度影片。Motion Adapter 之後將這份幾何骨架轉換成具備外觀、光照和非剛性動態的影片；新物件則可透過參考影像插入場景，並與鏡頭及原有物件共同控制。

相較只控制鏡頭、依賴 image-plane cues，或使用 3D tracks、blobs 的方法，完整網格能保留物件未被鏡頭看見的幾何，減少物件離開畫面後再出現時形狀和身份改變的情況。影片生成研究、視覺特效預演，以及需要精確安排物件運動的製作團隊較容易受益，但重建網格和建立剛性軌跡亦增加了準備工作。

RealCOD-Rigid 提供 20,774 段附有剛性 3D 場景標註的影片片段。
Identity-Gated IoU（IG-IoU）同時衡量物件動作是否跟隨指令，以及物件身份能否保持。
實驗報告指 4Director 在畫質、鏡頭控制和物件控制方面優於多種先前方法。

4Director 目前更適合作為研究原型和可控影片生成的實驗基礎，而非即裝即用的剪片工具。理解其效果時，應同時檢查生成畫面的外觀品質、指定軌跡的遵循程度，以及物件離開後重新出現時的身份一致性。

項目主頁 · GitHub

Categories: 開源, AI productions, 世界模型, Video, 工具, 3D, 動畫

AutoGUIWorld：跨平台 GUI Agent 訓練場景及模型

2026 年 10 月 2 日

以圖像生成模擬 GUI 狀態轉換，降低建立跨平台對真實軟件環境的依賴。

GUI Agent 要學懂跨平台操作，往往受限於收集資料時能夠安裝和重設的軟件環境。AutoGUIWorld 會生成 Windows、macOS、Ubuntu、Chrome、Android 或 iOS 的 GUI 場景，再由模型規劃點擊、開啟、切換等動作，透過圖像編輯生成每一步的畫面。它屬於面向 Computer-use agents 的資料生成框架，在毋須逐一啟動真實應用程式的情況下，建立有畫面、有動作、有座標標註的訓練軌跡。

AutoGUIWorld 把語意規劃和畫面轉換分開。Meta Planner 先按場景建立任務及動作序列，Voyager 讀取最新的乾淨截圖，描述下一個視覺狀態，再交由獨立的模型 adapter 處理文字、視覺和圖像生成或編輯；grounding backend 則負責找出指向目標的位置。每條軌跡會保留 obs_k.png、帶有目標框的 act_k.png，以及記錄任務、計劃、動作、畫面對應、grounding boxes 和 provenance 的 meta.json，方便日後檢查和重用。

覆蓋 Windows 11、macOS、Ubuntu 24.04、Chrome、Android 和 iOS 場景
技術報告使用的 AutoGUIWorld 訓練集包含 79,266 個 grounded and filtered examples
支援 LocateAnything-3B、MAI-UI 或視覺語言 backend 進行 pointing grounding
固定 random seed 可重現結構化場景，但模型輸出的文字和像素仍可能改變
生成資料不會在真實桌面執行動作，也不會自行驗證任務是否完成

雖然 AutoGUIWorld 以視覺生成換取更快的場景擴展和較低的環境管理成本。代價是生成畫面未必等同真實軟件狀態，圖像模型也可能產生不合理的介面轉換，因此項目提供 scene validity、action alignment 和 transition fidelity 等品質檢查，但不能把這些檢查視為真實執行結果。

目前公開結果集中在資料生成和模型訓練流程。用家可隨時以軌跡微調 Qwen3.5-35B-A3B ，建立合成訓練資料。對只需要真實操作成功率、而且不能接受模擬畫面偏差的工作流程，仍應把真實環境測試放在資料生成之後。

GitHub · 模型

Categories: 開源, Agentic, 模型, 模型訓練, Qwen, Image, 框架, 軟件, Mac, Linux, Win, Dataset 數據集, UI/UX

Cloudflare Clef 多模態決策模型：直接輸出分類、路由與審核概率

2026 年 10 月 2 日

Clef 將文字、JSON、影像或影片轉成結構化概率，毋須生成答案再解析。

面對發票分類、服務故障分流或影像核查等工作，Clef 可以直接為每條問題的可選答案計算概率，省去生成自由文本及再解析輸出的步驟。這個 27B 多模態決策模型基於 Qwen/Qwen3.8-27B 微調而成，能同時處理文字、JSON、影像及影片，並以單次 forward pass 回傳結果。

模型保留 Qwen/Qwen3.8-27B 的語言及視覺 backbone，再接上 joint schema head。這個小型 Transformer head 會讀取 backbone 的最終 hidden states，把狀態中的證據路由到每條問題，然後聯合計算所有選項的 logits；每條問題獨立套用 softmax 後，便可取得各選項概率。輸出不是自然語言，而是 choice、score 或 noul（true/false）等結構化結果，適合交由工作流程或 API 直接使用。

state 可接受字串或 JSON，問題支援 choice、有序的 score 及 noul。
images 和 videos 可與文字資料混合，文字及多模態記錄亦可放在同一批次處理。
encode_record 預設 max_length 為 16,384 tokens，亦可透過 max_state_tokens 限制狀態長度。
模型檔案包括分片 safetensors、joint_head.safetensors、處理器設定及 joint_schema_model.py。

官方測試環境是單張 H200，配合 torch 2.11、transformers 5.10.2 及 pillow。

Clef 的取捨在於輸出控制性高，但用途受制於預先定義的問題、選項及 criteria，並非通用聊天模型。它與原始 Qwen/Qwen3.8-27B 的差異，是加入 joint schema head、記錄編碼及 SystemOne 介面，將生成式模型改造成可批量回答固定決策問題的模型；較小、較快的 Clef-Flash 則另行提供，頁面沒有交代兩者的參數規模或精度差異。Apache-2.0 授權及 Jev／SystemOne 相容 API，令它較適合整合到分類、路由、合規檢查及多模態審核流程。

模型

Categories: 模型, 多模態模型, Qwen, Tokenize

SoL-Refiner 高解像度影片生成加速 27 倍

2026 年 10 月 2 日

先完成低解像度草稿，再用一次去噪提升至高解像度，SoL-Refiner 大幅縮短影片生成時間。

高解像度影片生成往往受限於大量時空 tokens，SoL-Refiner 以影片精修模型處理這個瓶頸：先由不同基礎生成器製作較低解像度草稿，再用一次目標解像度去噪輸出最高 4K 影片，毋須進行多步精修。

NVIDIA Research 的訓練流程結合高解像度持續訓練、frame-based RL post-training，以及 one-step distribution-matching distillation，並支援 bidirectional 和 streaming inference。方案可接駁 MiniMax H3、SANA-Video、Cosmos-Nano 和 WAN 等不同生成器，令精修模組毋須綁定單一模型。

一次高解像度去噪，減少第二階段採樣成本
支援多個影片生成器，改善跨模型工作流程
在 2K 保持具競爭力，4K 指標優於 LTX-2.3
WAN 和 Cosmos-Nano 測試中，平均質素亦有所提升

以五秒、1344×768、24 fps 影片測試，MiniMax H3 直接生成高解像度版本需 152.3 秒；低解像度生成加 SoL-Refiner 的兩階段流程只需 5.6354 秒，量得 27.03 倍牆鐘速度提升。測試使用 NVIDIA GB200，每個階段各佔用一張 GPU，實際速度仍會受硬件、基礎生成器和影片設定影響。

SoL-Refiner 適合需要大量高解像度影片、但又要控制推理延遲的內容製作流程。它以額外的低解像度生成階段換取更快的高解像度輸出，質素和速度之間的取捨仍取決於輸入草稿及所選生成器。

項目主頁 · GitHub · 模型

Categories: 開源, AI productions, 模型, 視頻模型, NVIDIA, Video, Image, 教學, Python, LTX, MiniMax

MiniMax H3 的雙用途 X2 Detail VAE 實驗

2026 年 10 月 2 日

一個 VAE 同時處理影片 2 倍解碼與參考圖細節增強，但仍依賴指定 ComfyUI 節點。

由 MiniMaxAI/MiniMax-H3 作為 base model，呢個實驗型 video VAE 將兩條工作流程放入同一個模型：一條負責生成影片 latent 的 2 倍解碼，另一條則提升 image-reference 的空間細節，適合 ComfyUI 影片生成項目使用。

影片模式會以 MiniMax-H3-X2-Detail-v1.safetensors 解碼，再將 packed 12-channel 輸出交給 PixelShuffle ×2，產生 2 倍 RGB 影片幀。參考圖模式則透過 MiniMax H3 VAE 2X (Detailed Upscale) 節點，從 encoder 的 down.1.block.1 抽取額外 B32 空間細節；因此必須有現成 RGB 參考圖，並非只處理 latent。

檔案附有 ComfyUI 節點、workflow 及研究報告。影片解碼需要 ComfyUI-MiniMaxH3_LatentUpscaler 的 MiniMax H3 VAE Decode (fast)，示範設定包括 tiling=true、tile_size=256、tile_overlap=64、output_device=cpu，以及 temporal_tiling=false；節點依賴令流程不能直接用標準 VAE Decode 取代。

模型檔案：MiniMax-H3-X2-Detail-v1.safetensors
定位：2X VAE Decode 加參考圖 Detail Enhancement
已知取捨：B32 細節路徑只適用於 RGB 參考圖
頁面未提供參數規模、上下文長度、GGUF、量化版本或 mmproj 檔案

項目作者將成果描述為一次未達預期的 HQ-VAE 實驗，但保留了可工作的 2-in-1 發布版本。適合作為實驗性 ComfyUI 工具，而非已完成全面效能驗證的通用 VAE。

模型

Categories: 開源, ComfyUI, AI productions, 模型, Video, MiniMax

Page 1 of 163

1 2 3 … 163 Next »