InferNews

3DZip 把 3D VLM token 減少到 10 分之一

2026 年 8 月 4 日

做 3D Question Answering 時，projection-based 3D vision-language models 往往要先把多視角 RGB-D 特徵投影到世界座標，結果每個場景會堆出幾千個 token，推理速度同記憶體壓力都會立即變成瓶頸。3DZip 屬於token compression 框架，處理的正正是這個問題，而且做法不是再訓練一個新模型，而是直接插進現有流程，先減重再回答問題。

它的判斷很清楚：3D token 的冗餘不只來自空間上太接近，還包括物件層級分佈不平均，所以單靠 2D VLM 常見的 attention 或語意相關性壓縮，未必保得住 3D 幾何結構。3DZip 用三步走處理，先做 voxelization 清走點級重複，再用 Determinantal Point Process（DPP）挑出特徵夠多樣的 anchor tokens，最後在空間限制下合併其餘 token，重點是保持 geometric coherence。

3DZip 提供 LLaVA-3D 的 inference 與 evaluation code，代表你可以把它理解成偏向研究驗證、效能比較同既有模型加速的項目，而不是即裝即用的完整產品。核心演算法放在 llava/model/multimodal_encoder/video_encoder.py 的 3dzip pooling branch，部署思路也很直接：以 LLaVA-3D 為基礎模型，把壓縮流程接到 multimodal encoder，再用基準測試看 token 數、速度同回答質素之間的取捨。

3DZip 在三個 3D question answering benchmarks 上，壓到128 tokens之後仍保留94.7%原始表現，推理速度提升到1.92×。這類數字最適合需要在有限 GPU 記憶體內跑 3D VLM、又不想為加速重新訓練整個模型的研究團隊；代價是目前公開重點仍集中在推理與評估，Hugging Face 權重與更完整版本例如 3DZip++ 仍未釋出。

免訓練設計，重點在於直接壓縮 projection-based 3D VLM 的 token 成本
與 2D token compression 不同，3DZip 同時處理空間結構同特徵多樣性
已公開 LLaVA-3D 的 inference 與 evaluation code，較適合研究與基準比較
128 tokens 仍保住 94.7% 原始表現，推理速度可達 1.92×
現階段較像演算法模組，未見完整產品化封裝

項目主頁 · GitHub

Categories: 開源, 3D, 多模態模型, 視覺模型, 框架

CADENA 把 3D 網格逐步還原成 CAD 程式

2026 年 8 月 4 日

做 3D reverse engineering，最大痛點唔係生成一段似樣代碼，而係生成之後能否真的建出可用、可編輯、而且封閉的幾何。CADENA 屬於模型加推理流程的參考實作，目標是把 3D mesh 重建成 parametric CAD program；它採用 stepwise inference，每次只發出一個 operation，先執行目前前綴，再用目標幾何與已建幾何的差距決定下一步。

這種做法的價值，在於把「一次過輸出整段程式」改成可檢查、可回退的逐步生成。倉庫內的 inference/ 會做 vLLM 服務、per-operation expansion 同 prefix selection，rl/ 則負責 sandboxed prefix rendering 與排序分數；系統只保留能令 IoU 改善的步驟，所以多走幾步不會令結果更差。代價同樣清楚：部署要 Python 3.10+、CUDA GPU、vLLM，同時依賴 OpenCASCADE via CadQuery，環境比一般 Vision-Language 模型推理更重。

模型本身用的是 Qwen2-VL-2B policy，Hugging Face 釋出 sft 與 rl 兩個階段，當中 rl 對應 CADENA-RL。輸入不是單張截圖，而是八個視角拼成一張圖，六個軸向視圖加兩個等角視圖；目標物放在綠色通道，當前已建立幾何放在紅色通道，模型讀到的其實是尚未補齊的殘差。這種設計直接把「下一刀應該補邊度」轉成視覺訊號。

幾個值得留意的重點：
– 倉庫提供完整推理、資料集建立、評分與可視化流程，但不包含用來合成訓練語料的 rule-based program generator。
– cadgen/ 只有 DSL runtime 的執行半部，較適合做還原、測試與基準比較，唔係完整資料生產管線。
– 預設流程會由 mesh 目錄建立 inference dataset，再輸出每一步的程式、輸入圖同 built STL，方便檢查中途錯誤。
– 無效預測會被剔除：建不出來，或者結果不是 watertight，都不算有效答案。
– 評分包含 GMS、IoU、CD，而且結果會按 family 及整體一併報告，避免單一類型零件拉高平均值。

適合研究 CAD reverse engineering、幾何生成、製造前處理，或者想把 mesh 轉回可參數化編輯流程的團隊。現階段最實際的理解方式，是把 CADENA 看成一套偏研究導向、但已經有明確 benchmark、checkpoint 同 rollout 腳本的開源項目；可重現性做得不錯，不過完整訓練資料生成鏈未公開，想延伸到自家資料或重訓流程，仍要補上不少工程工夫。

GitHub · 模型

Categories: 開源, Qwen, Google, NVIDIA, 3D, Python, 多模態模型, 框架, Dataset 數據集

DeepVoyager-VL 把視覺線索放回搜尋流程中

2026 年 8 月 4 日

Comparison of multimodal search data synthesis paradigms

當一個多模態 agent 要連續查多步資訊，最易失準嘅位置往往唔係答題，而係中途搵錯線索。DeepVoyager-VL處理嘅正正係呢個問題：佢屬於長流程多模態 deep-search 框架，讓新取得嘅圖片證據直接影響下一輪檢索，而唔係只喺輸入開頭或答案結尾先用到視覺資訊。

呢種做法令佢同一般把視覺訊息包裝成前置條件嘅方法有明顯分別。DeepVoyager-VL背後用 EventVoyage-VL 生成帶有中間視覺依賴嘅長流程問題，再用整理過嘅 trajectories 做 Supervised Fine-Tuning（SFT），而唔加額外 reinforcement learning 階段；取捨好清楚，訓練流程較可重現，但效果仍然要靠資料合成質素同軌跡篩選撐住。

倉庫而家已經放出 paper、project page，同可重現嘅 Megatron SFT training bundle，亦提供 DeepVoyager-VL-8B 同 DeepVoyager-VL-30B-A3B 模型，以及 EventVoyage-VL dataset。想理解點樣驗證，最直接係沿住現成模型、資料集同訓練 bundle 睇完整流程；README 亦提到 SWIFT RUNTIME=bundled 會使用儲存庫內嘅 source trees，定位上比較接近研究與訓練復現項目，而唔係即開即用嘅消費級產品。

核心改動：把 vision in the loop 放入搜尋中段，圖片可按需要先載入或裁切
資料來源：EventVoyage-VL 先做 structure-before-language synthesis，再抽出可監督軌跡
訓練路線：以 supervised-only 為主，冇再疊 reinforcement learning 階段
結果：8B 同 30B-A3B 平均分別為 54.8 同 58.6，並在十個 benchmark 入面分別拿下八個同九個最佳成績

分數本身已經講到定位：DeepVoyager-VL不只是追求更大模型，而係想改善「見到新圖之後，下一步應該搵乜」呢個決策環節。較受益嘅會係做多步檢索、多模態問答、研究型 agent pipeline 嘅團隊；要留意嘅限制亦同樣直接，成效高度依賴合成資料點樣把中途視覺依賴編排得夠真實，離開相關 benchmark 之後，泛化深度仲要靠後續驗證。

項目主頁 · GitHub

Categories: 開源, 香港科技大學, 華為, Agentic, 多模態模型, 模型, 模型訓練, Dataset 數據集, 框架, 北京大學

MBM：跨類別動作轉移突破

2026 年 8 月 4 日

想把一段動作搬到另一個角色或畫面，最怕形態差太遠時連身份都一併扭曲。MBM 走的是一套 motion transfer 研究框架，重點是把跨類別動作轉移做得更穩，讓 reference video 的動作可以連同 text，必要時再加一張 reference image，一起驅動生成。

它分兩段處理：Stage I 先學 heterogeneous abstract motion conditions，再 bootstrap cross-category motion pairs；Stage II 再用 raw reference videos 把這套監督內化。推理時直接靠 reference video、text 和 optional reference image，不需要 explicit motion extraction 或 test-time optimization。

它和只在相近外形之間搬動作的做法不同，目標是連 same-category、near-category 到 far-category 都盡量維持 motion fidelity 與 target preservation。資料同時提到 OpenVMT-Dataset 和 OpenVMT-Bench，前者是 instance-level motion-equivalent cross-content pairs，後者則用逐步拉大的 category gap 去測。

兩階段框架先學抽象動作，再把監督內化到生成流程
推理端直接吃 reference video、text、optional reference image，流程較短
主打跨類別動作轉移，適合影片生成、角色動作遷移、動畫合成
在大形態差距下仍可維持較好的動作保真與目標保留

項目主頁 · GitHub

Categories: 開源, Video, Image, AI productions, 框架, 北京大學

LeapTalk：1 步生成會話數字人

2026 年 8 月 4 日

想做會話數字人？卡位通常唔係能否生成，而係夠唔夠快、個樣會唔會愈播愈走樣。LeapTalk屬於開源 talking-head generation 項目，針對的正是即時串流、人臉一致性同嘴型同步三件事一齊要兼顧的難題。

它的吸引力在於每個影片片段只用 1 NFE 就可推進，在 Lite 設定下標示可達 200 FPS，而且 Web Demo 已經做成可載入人像圖、用文字或咪高峰對話的介面。底層並非單靠硬推速度，而是建基於 SoulX-FlashHead-1_3B，再配合 LoRA、audio_proj_step_*.pt、wav2vec2-base-960h，用 audio-driven classifier-free guidance 強化對嘴。

以 chunk-by-chunk streaming pipeline 連續生成長片
用 Brownian bridge 同 Bridge Forcing 減少長片身份漂移
README 已交代需另外下載 base model、語音模型與 LeapTalk 權重
推論前要自行填入 COND_IMAGE、AUDIO_PATH 等本地路徑

同類做法常見取捨是速度快但畫面累積誤差，或畫質穩定但延遲高；LeapTalk明顯站在「先把延遲壓到可互動」這一邊，再用 reference-anchored data-to-data transport 補回穩定度。

現適合做數字人互動、虛擬主播、即時內容生成的團隊。200 FPS 與單張 H200 GPU 的說法來自項目提供資訊，普通硬件能否複製同樣效果、Web Demo 的完整部署細節是否齊備，仍要等更多實測佐證。

項目主頁 · GitHub

Categories: 開源, Audio, AI productions, 影像處理, 數字人, 視頻模型

LongHorizon-Harness 解決代理在長任務時的錯誤

2026 年 8 月 4 日

Install and run LongHorizon-Harness from the command line

當代理要橫跨桌面程式同 command line 連續做事，最易出問題唔係單步操作，而係中途記錯狀態、判斷錯進度，結果愈做愈偏。LongHorizon-Harness 針對屬於長時程代理執行與驗證工具，目標係令複雜任務可以被保存、核實，再一路推進到完成。

它唔係新模型，它主要協助 Claude Code、Codex、OpenClaw 之類 agent backend 上面處理 execution、state management 同 result verification。核心做法是 Manage-Execute-Audit (MEA) loop，把規劃、執行、審核拆成不同路徑，並把可信狀態獨立保存，減少單一長對話愈滾愈亂的問題。

支援 Claude Code、Codex、OpenClaw，亦可配 Gemini CLI 與 mini-SWE-agent
以獨立 audited state 推動下一步，而唔係只靠 session 內記憶
可用單一指令啟動，每次執行會獨立保留 audit trail
針對 WeaveBench、OSWorld 2.0、Terminal-Bench 2.1 這類長任務基準有公開成績

它在 WeaveBench 取得 80.7% PassRate、OSWorld 2.0 有 35.2% partial score，Terminal-Bench 2.1 success rate 為 77.2%。官方亦強調在相同 backbone 下，只換 harness，三個 benchmark 都向上走，反映改進點主要來自流程控制同驗證機制，而唔係模型突然變強。

呢種設計較適合需要長時間自動化處理、多步驟交接、又要追蹤結果可信度的團隊，例如研究、軟件測試、系統操作同複雜 office workflow。代價是流程比單純聊天式代理更重，審核與狀態管理會增加結構與成本，但換來的是更穩定的延續能力，同較容易追查每一步點樣做出來。

項目主頁 · GitHub

Categories: 開源, Qwen, Gemini, DeepSeek, OpenAI, Agentic, Anthropic, OpenClaw, MiniMax, Skill 技能, Dataset 數據集, 框架

DEFT-RLVR 用延後曝光減少自動駕駛 VLM 誤判

2026 年 8 月 4 日

Ground-truth trajectory exposure can induce post-hoc rationalization and hallucination.

自動駕駛 Vision-language-action models 一旦在推理前先見到真實未來軌跡，很容易把答案合理化，卻未必真係根據場景作判斷。DEFT-RLVR 屬於訓練與驗證框架項目，核心是把「先看場景作決定」同「之後再對照候選軌跡」拆開，減少 trajectory anchoring bias。

它的做法唔係直接生成開放式座標，而是先用 AD-MCQ 把規劃問題改成多選題，再用 DEFT 兩階段流程處理：模型先做 candidate-blind scene reasoning，之後先見到候選軌跡再揀答案。這種設計的好處，是答案可被精確核對；代價則是任務表述被收窄到候選集合之內，較接近「可驗證決策」而唔係完整路徑生成。

針對的不是感知本身，而是推理監督被答案污染的問題
AD-MCQ 保留 braking、speed 同 lateral geometry 等差異，方便精確評分
DEFT-RLVR 用 GRPO 聯合優化，並且可選用 rubric 監督推理過程
RL 階段直接由 base VLM 開始，毋須 cold-start SFT
模型採用 Qwen3-VL

部署門檻不算低。項目要求另行安裝支援 CUDA 的 vLLM，Waymo codebook reconstruction 還要額外用 Python 3.9 的 autovla waymo py39 環境；預設 recipe 亦明顯偏向大型多 GPU 節點，小型設備需要自行調整 tensor parallelism、batch size、sequence length 同 offloading。

目前公開資訊顯示，它在 AD-MCQ-500 上同時提升 trajectory selection 與 candidate-blind reasoning，較穩妥的判斷是：這套方法對研究自動駕駛 VLM/VLA 訓練可靠性、想避免「先知答案再解釋」的團隊尤其有參考價值；要落地到更開放的真實規劃流程，仍要看候選軌跡構建與算力成本能否接受。

GitHub

Categories: 開源, NVIDIA, Python, 多模態模型, 視覺模型, VLA

WorldExam：檢驗世界模型影片的反應力

2026 年 8 月 4 日

WorldExam 把重點放在世界模型（world models）影片最常被忽略的地方：畫面好看之外，世界有沒有維持住，場景會不會對動作作出合理反應。它屬於基準測試項目，用來評估可控制影片生成在外觀、操控、空間一致性與內在反應上的表現。

它提供 1,474 個測試案例，涵蓋 camera-driven、action-driven、language-driven 三種控制介面，並劃分為四個診斷層次與八個任務。使用時可依照項目提供的測試案例與統一評估流程，檢查模型在不同場景、不同視角和不同互動條件下的穩定度。

和只看視覺質素或指令跟隨的做法相比，WorldExam 更在意模型有沒有維持空間一致性，以及能否推斷場景應有的反應。它把 scene revisit、terrain interaction、object interaction、social interaction 等情境都納入，適合做影片生成、世界模型、互動式內容與機械人視覺相關研究的團隊。

同時測外觀、操控與世界反應，不只看畫面順不順眼
支援三種控制介面，較貼近不同應用流程
測試案例覆蓋室內外、3D render、電影鏡頭、動畫與 dashcam
有任務級與整體指標，方便比較不同模型
對想看模型有沒有「懂場景」的團隊特別有用

項目主頁 · GitHub

Categories: 開源, 香港中文大學, 3D, 世界模型, Dataset 數據集, 框架

Poplar 把人像數據集生成變成可追溯流水線

2026 年 8 月 4 日

生成人像圖文數據集最易失控的地方，不在於出圖本身，而在於之後很難追查提示詞有冇被改動、畫面為何被淘汰、覆蓋範圍是否足夠。Poplar把呢件事做成一條開源流水線兼框架，專注處理 human-centric image-text dataset synthesis，將 Specify、Render、Inspect 三段分開，又用 append-only JSONL 記錄每一步。

它的做法幾務實：先抽樣人物、服裝、活動、場景、取景與光線等結構化屬性，再由 Qwen3.5-27B-FP8 把規格寫成攝影導向提示詞；之後用 Krea 2 Turbo 配合 Krea2-realism-V2 生成，每個規格只出一張圖，最後再由同一個 Qwen3.5-27B-FP8 檢查圖文是否一致、是否有明顯缺陷。重點不只是「生成到」，而是連 prompt hash、seed、重試紀錄、缺陷標記同審核時間都留底。

適合研究團隊、數據工程、訓練視覺模型前的數據建設工作
差異在於把語意覆蓋、渲染來源與質檢決策全部做成可追溯紀錄
部署門檻不算低，已發佈排程要四張 NVIDIA GPU，並需相容 CUDA 12.6 的 PyTorch 環境
質量控制包含保守式 deterministic prefilter，會重試近灰階、嚴重模糊、低細節或損壞輸出

跟只看單張生成效果的做法相比，Poplar更重視整批數據集能否重現與審核，取捨是硬件需求較高，流程亦偏向資料生產而非互動創作。現有資料未見完整基準分數，但它把審核 rubric、prompt mismatch severity、evidence 與 confidence 都納入 review records，對要建立可交付數據資產的團隊，價值相當直接。

項目主頁 · GitHub

Categories: 開源, Qwen, NVIDIA, Image, Python, Dataset 數據集

[技術文章] StyleForge 以反事實推理統一室內家具風格配搭

2026 年 8 月 4 日

固定佈局的室內家具風格配搭，難點唔係搵到單件外觀相符嘅家具，而係放埋一齊之後會唔會撞色、撞材質，甚至整體氣質唔夾。StyleForge 就係針對呢個問題而設，喺唔改變家具類別、位置、朝向同比例嘅前提下，幫系統為每個家具槽位揀出更一致嘅組合。

現有做法多數只係逐件檢索，或者靠靜態關係去描述房間，結果容易忽略全局配搭。StyleForge 改用 scene-level structured selection framework，先由凍結嘅 multimodal large language model（MLLM）抽取風格線索，再由可學習嘅候選分佈配合 dynamic hypergraph style field，捕捉家具之間更高階嘅依賴。

佢另一個重點係 counterfactual style preference learning。做法係將每個候選視為當前風格場入面嘅局部替換，然後用 Mahalanobis energies 去評估同上下文嘅相容性，訓練時再交替優化風格場同候選 logits；推理時只更新房間專屬嘅候選 logits，逐步修正跨槽位衝突。

同時考慮單件相關性同整體房間協調
用動態 hypergraph 去表達跨家具依賴
以反事實推理檢查候選喺場景中的相容性
推理階段只調整房間專屬 logits，模型主體保持凍結
喺 3D-FRONT 上做出較一致嘅固定佈局家具安排

作者喺 3D-FRONT 上展示咗更高嘅 furniture retrieval 表現，同時亦提升 scene-level style coherence。對做虛擬室內設計、3D 內容製作，或者需要穩定室內擺設嘅 immersive embodied environments，呢種「先睇整體，再揀單件」嘅方法會更貼近實際需要。

Paper

Categories: 3D, 中國, 框架

Page 1 of 127

1 2 3 … 127 Next »