InferNews

這個儲存庫聚焦在 LLM 多代理系統的強化學習與後訓練方法，但它的價值不只在蒐集文獻，更在於用一致的結構整理研究脈絡。相較一般 awesome list 偏向羅列連結，這個專案明顯更重視可稽核性、分類邏輯與後續分析用途。

實際使用上，讀者可以先從保留論文池與分類表快速瀏覽研究全貌，再進一步對照 CSV 與相關腳本確認統計與來源。若你正在做文獻回顧、研究選題，或想建立自己的資料集，這種「README 易讀、資料檔可驗證」的設計會比純手工整理更可靠。

它最值得注意的創新，是把 orchestration trace 當成核心組織概念：不只看單一代理的動作，而是追蹤任務分派、子代理生成、代理間通訊、工具呼叫、結果聚合、獎勵與成本等決策流程。對研究者來說，這讓多代理系統中的訓練訊號、責任歸因與系統證據更容易被明確描述，也更接近真實工作流。

• 收錄 84 筆保留文獻，並附 32 筆排除紀錄，研究邊界相對清楚
• 提供 JSON Schema、範例 trace 與無相依驗證器，方便檢查資料格式
• 涵蓋 reward、credit design、benchmark、安全性與系統證據等面向
• 適合用來建立文獻地圖，而不只是當作連結書籤

整體來看，這個專案最適合研究 LLM agent、multi-agent orchestration、RL 訓練流程的人使用，特別是需要整理證據鏈與實驗描述的學術或工程團隊。若你只是想找熱門論文，它可能稍微學術；但若你在意研究可重現性與結構化分析，這份資源相當有參考價值。

Source: https://github.com/xxzcc/awesome-llm-mas-rl

X2SAM 是一個統一式分割多模態大型語言模型，目標是把影像中的「任意分割」能力延伸到影片。它結合 LLM、Vision Encoder、Mask Encoder、Mask Decoder 與 Mask Memory，讓模型不只理解畫面內容，還能依照對話指令或視覺提示產生像素級遮罩。

實際使用上，X2SAM 可同時接受對話式文字指令與視覺提示，適合需要指定目標、追蹤物件或互動修正結果的情境。官方描述指出，它支援 generic、open-vocabulary、referring、reasoning、grounded conversation generation、interactive 與 visual grounded segmentation，代表使用者可用較自然的方式提出分割需求，而不必侷限於單一輸入形式。

這個專案的主要創新，在於用單一介面整合影像與影片分割，並以 Mask Memory 儲存受引導的視覺特徵，改善影片中跨時間的遮罩一致性。此外，作者也提出 V-VGD（Video Visual Grounded） 分割基準，用來評估模型是否能根據互動式視覺提示，在影片中分割並追蹤物件。

• 統一支援影像與影片分割，而非只專注單一媒體
• 同時支援文字指令與視覺提示輸入
• 透過 Mask Memory 強化影片遮罩的時序一致性
• 提出 V-VGD 基準補足影片視覺定位分割評估
• 採用異質影像與影片資料的聯合訓練策略

從工作應用來看，這類系統可望受惠於影片內容理解、互動式標註、智慧剪輯、視覺助理與多模態人機互動等任務。性能方面，原文表示 X2SAM 在影片分割上達到強勁表現，對影像分割基準仍具競爭力，並保留一般影像與影片聊天能力；不過此頁面未完整列出具體數值，因此解讀上仍應以論文與實驗表格為準。

模型列表：LLM、SAM 系列

Meta FAIR 的「Code World Model (CWM)」是一個 32B 參數、專門為「帶世界模型的程式碼生成研究」設計的開放權重 LLM。它的關鍵點是：不只學 code syntax，而是透過大量「執行軌跡」去內化程式執行對系統狀態的影響，並在多任務 RL 下強化 agentic coding 能力。

CWM 是什麼？

• CWM（Code World Model）是一個 32 億參數（32B）、dense、decoder‑only 的 Transformer LLM，主要面向程式碼生成與程式相關推理。
• 它被設計成「世界模型式」的 code LLM：不只預測下一個 token，而是學會在腦中「模擬程式執行過程」及其對環境狀態的影響。
• 官方目標是提供一個強大的開放權重 testbed，讓研究者探索「世界模型 + agentic reasoning/planning」如何提升程式碼生成與軟體工程工作流。

訓練流程與 world modeling 設計

CWM 的訓練 pipeline 不是單純「pretrain → SFT」，而是刻意插入 world‑model mid‑training，再加上多任務 RL：

• 前期：先在一般語言與程式碼資料上做大規模預訓練，建立廣泛的語言、程式知識基礎。
• Mid‑training（世界模型核心）：
  • 在大量「observation‑action 軌跡」上進一步訓練，這些軌跡來自 Python interpreter 執行 trace，以及在 Docker container 中以 agent 方式操作系統的互動紀錄。
  • 這類資料讓模型看到「程式片段／指令 → 執行過程 → 輸出與系統狀態變化」，等於學習一個對應「code → world dynamics」的隱式世界模型。
• 後期 post‑training：
  • 先進行 supervised fine‑tuning，引入明確的 reasoning format、step‑by‑step 推理風格等標註資料。
  • 再用 multi‑task RL（文中提到使用 GRPO 類型方法）在可驗證的 coding 任務、數學問題、多輪軟體工程環境中進行強化學習，reward 來自於測試通過率、解答正確與任務完成度。

這種設計的重點是：讓 RL 是「從已經具備世界模型的基底」開始，而不是只在純 token LLM 上做 RL，理論上比較容易學到長程規劃與工具使用策略。

模型架構與上下文長度

• CWM 是一個 64 層的 decoder‑only Transformer，採用現代 LLM 常見配置（例如 RoPE 位置編碼、SwiGLU FFN、GQA 等）。
• 參數規模為 32B，詞彙表約 128k token，明顯針對大型 codebase 與多語言程式碼場景設計。
• 上下文長度最高達約 131k tokens，可容納整個專案、多檔案上下文與長程互動軌跡。
• 為了處理這種長上下文，它使用「交錯式注意力」：
  • 多數層採局部 attention（例如 8,192 token 視窗），每隔數層插入一次 global/sliding attention 層可以看到完整 131k 上下文，文中描述比率約為 3:1。
  • 這樣的設計在計算量可控的前提下，仍能在多層中“刷新”全局資訊，對閱讀大型 codebase 與長對話 debugging 特別有利。

基準測試成績

在多個開源 benchmark 上，CWM 以 32B 級別達到非常有競爭力甚至 SOTA 的表現：

• SWE‑bench Verified：pass@1 約 53.9%（不做 test‑time scaling），在採用 test‑time scaling 後可達約 65.8%。
• LiveCodeBench：v5 約 68.6，v6 約 63.5（pass@1）。
• 數學與推理：
  • Math‑500 約 96.6%。
  • AIME 2024 約 76.0%。
  • CruxEval Output 約 94.3%。
• 論文與解讀都提到：在同等或相近參數規模的開放權重 LLM 中，CWM 在一般 coding 與更 agentic 的軟體工程任務上都具有「best‑in‑class」水準，甚至接近或追平一些封閉大模型。

對你這種做 RAG / agent / tools‑calling 工作流的人來說，這顆模型的亮點其實是「在環境中操作和修 bug 的能力」，而不只是單輪 code completion 分數。

權重釋出與取得方式

• Meta 以「開放權重」形式釋出 CWM，提供多個 checkpoint：
  • mid‑training 後的 world‑model 版本。
  • SFT 後版本。
  • RL 後完整版。
    方便研究者分析各階段對能力的影響。
• 社群整理指出，CWM 權重目前在 GitHub 與 Hugging Face 上提供，包含 transformers 版權重與推理程式碼；Meta 採用自家訂定的 open‑weights 授權條款，主要定位在研究用途，具體使用限制需看 AI at Meta 官方頁與 HF model card 條款。
• Hugging Face transformers 已內建 CwmForCausalLM 與對應 tokenizer。

與一般 code LLM 的本質差異

和傳統只在「靜態 code corpora + 少量程式執行資料」上訓練的 code LLM 相比，CWM 的幾個關鍵差異：

• 訓練核心是「大量程式執行與 agent interaction 的軌跡」，把「程式 → 執行 → 狀態變化」當成序列學習對象，形成隱式世界模型，而不只是 code token 統計模型。
• RL 設計是圍繞「可驗證結果」（例如測試通過、問題解答正確、多輪任務完成），而不僅是人類偏好／指令跟從，這對長程規劃與工具調度尤其重要。
• 長上下文 + 交錯 attention 讓模型可以在一次推理中讀完整個 repo、ticket 歷史與多輪 log，這是很多傳統 code LLM 現階段比較薄弱的地方。

ComboStoc 是一個針對擴散生成模型訓練流程的研究型實作，核心目標不是換掉整個模型架構，而是修正既有訓練對「組合式結構」取樣不足的問題。這個版本以 PyTorch 為主，提供影像擴散模型、訓練腳本，以及預訓練權重，定位相當明確：拿來驗證論文方法，也適合已有 SiT 或相近擴散管線的人直接比較。

這個專案真正有辨識度的地方，在於它不再把整筆資料視為同步走在同一個 diffusion timestep。相反地，它讓不同維度、patch，甚至可能的屬性使用非同步時間步，藉此更完整覆蓋高維資料中的組合空間；這也是它和一般只調 loss、scheduler 或採樣器的做法最不一樣之處。

實務上，它延續 SiT 風格的實作思路，並提供基於 PyTorch DDP 的訓練流程，代表它不是紙上談兵，而是可在分散式訓練中直接測試。推論端也不只是在既有 checkpoint 上出圖，還能利用非同步時間步做更細緻的控制；若參考論文描述，這種機制對局部條件控制或結構化生成尤其有意義。

最能受益的族群，會是正在研究影像生成、擴散模型訓練效率，或需要面對高度結構化資料的人。若你關心的是更快收斂、較低 FID，或想把相同模型延伸到更有屬性組合複雜度的任務，這個專案值得細看；至於 3D structured shape 的完整程式，儲存庫目前看來仍是後續補上。

• 特色在於非同步 diffusion timestep，不是單純更換 backbone
• 以 PyTorch 實作，並提供 DDP 訓練腳本
• 已附預訓練的 ComboStoc-XL-2 權重，可直接做採樣比較
• 適合拿來研究高維資料中組合複雜度對生成品質的影響

Source: https://github.com/Xrvitd/ComboStoc