OpenMausBot:比 GrokBot 更強的工作團隊

OpenMausBot 把 Claude、Codex 或 Grok CLI 接入聊天介面,讓每個 AI 代理擁有自己的角色、工作環境與權限審批。

Boat (boat.dev)

把多個 AI 代理放進同一個聊天視窗,最容易出現的問題不是模型不夠強,而是誰負責哪件事、可以動到哪些檔案,以及哪些操作必須先讓人批准。OpenMausBot 是一個開源桌面工具,正好把代理團隊、執行環境和人工確認串在一起。

它採用 local-first 架構,由一個綁定 127.0.0.1 的輕量 harness server 管理本機上的代理程序;聊天紀錄與金鑰留在自己的電腦。每個 bot 可以選擇 Claude、Codex 或 Grok CLI,配置不同模型、個性與工作目錄,像管理一群同事般分配任務。

  • 每個 bot 都是獨立代理,而非單一模型的聊天分頁
  • 代理可使用雲端 Linux desktop、隔離的 Local VM,或按平台支援的環境執行工作
  • 支援連接應用程式,並由使用者審批重要操作
  • 提供 React 19、Electron、TypeScript 桌面介面,涵蓋 macOS、Windows 與 Ubuntu

與直接使用 CLI 相比,OpenMausBot 增加的是聊天入口、代理分工、工作環境和權限控制;與雲端協作代理相比,它保留較高的資料控制權,代價是要自行處理 CLI 安裝、登入、API 費用及本機環境設定。官方沒有提供統一的模型跑分,因此較適合以任務完成率、操作審批流程和實際檔案需求來評估。

這個工具特別適合需要多個 AI 角色並行處理資料、研究、文件和程式工作的個人或團隊。Claude、Codex 與 Grok 是可選的 agent engines,並非 OpenMausBot 自行訓練的模型;先安裝桌面程式,再按引導連接其中一種引擎,便能由單一代理逐步建立代理團隊。

項目主頁 · GitHub

Categories: 開源, Agentic, 模型, 模型訓練, Google, OpenAI, API, 工具, Mac, Linux, Anthropic

Embodied First Exam:機器人是否真正理解任務?

這是一套針對具身智能程式代理的統一測試框架,以程式作答,再重播機器人片段評分。

logo

Embodied First Exam 把 coding agent 帶進真正的機器人操作題:代理在凍結場景中編寫並執行程式,觀察機械臂或身體控制器的反應,再按結果修正。它屬於 benchmark(評測基準)與統一框架,專門檢查程式代理能否把抽象指令轉成可運行的物理動作。

與只比較最終成功率的一次性測試不同,這套方法保留執行程式及場景重播,讓研究人員能分辨模型是真正理解任務,還是碰巧得到滿意結果。框架涵蓋 RoboPaint、RoboARC、RoboDynamicExam 等九個原創 suite,亦接納多個既有機器人與具身 benchmark,著重增加任務多樣性。

測試可分成三個層次:
– 以 RoboPaint、RoboARC 等任務檢視操作能力。
– 以 Embodied Olympics、KinDER、MuJoCo Playground 等涵蓋動態與控制。
– 以 Embodied Safety Exam 等檢查安全表現。

代價是測試環境相當厚重:需要 Linux、Docker、模型 API 權杖,部分 suite 要 NVIDIA GPU;RTX 級別顯示卡與 A100、H100 的支援安排不同,首次拉取映像亦可能佔用 1 至 30 GB。GPU 亦不是每項任務都需要,部分 suite 可在無 GPU 環境執行。

這套框架較適合具身智能研究團隊、agent 開發者,以及需要重現操作失敗原因的工程師。它提供的是可審核的考試環境,而非單一最佳模型;真正有用的成果,是讓不同 coding agent 接受相同物理任務、程式與重播式評分。

項目主頁 · GitHub

Categories: 開源, Agentic, 模型, NVIDIA, API, 框架, Vibe Coding, Linux, 編程, 安全

BVSR:科學家探索新方向

少給任務細節,可能更容易想出新方向;BVSR 再用已驗證成果篩選提案,減少實驗開支。

Overview of BVSR: (a) blind variation ideates with limited task information; (b) selective retention verifies only the p

刻意少給任務資料,再挑選值得測試的構思,是 Blind Variation, Selective Retention(BVSR)這套研究框架的做法。它協助 Artificial Intelligence(AI)科學家探索新方向,把資訊留給後續篩選,減少構思被熟悉方法牽引。

篩選器從同一任務已驗證的提案學習,因此仍需先累積實驗結果。項目文件報告,淘汰一半候選後,仍保留創意排名前 5% 提案的 79%,以及實用性排名前 5% 提案的 82%;節省驗證資源的代價,是漏掉部分好構思。

  • 構思階段限制任務資訊,擴闊探索方向。
  • 篩選階段比較已驗證提案,學習優先次序。
  • 接入 SimpleTES 後,五項任務最終得分均提高。

重現實驗需取得 Llama-3.1-8B-Instruct 與 gemma-3-4b-it 的存取權,並準備資料下載及 bubblewrap 隔離執行環境;提供的資料未交代兩個模型各自分工。已有自動實驗流程及驗證紀錄的研究團隊,較容易測試這套方法能否減少自身任務的驗證次數。

項目主頁 · GitHub · 模型

Categories: 開源, 模型, Gemini, 框架, LLaMa

WaveGen:把文字直接轉成語音波形

WaveGen 跳過外置 codec 和 vocoder,直接由文字生成語音波形;另有四步版本,縮短生成流程。

Figure 1 from the WaveGen paper: Spectral Forcing and disentangled waveform and spectral diffusion heads.

WaveGen 是文字轉語音模型,直接把文字轉成語音波形,省去外置 codec 或 vocoder。這令生成路徑更直接,但也把聲音品質和生成能力更多交由同一模型處理;目前公布的訓練資料是 Emilia,音訊為 24 kHz。

研究團隊稱,WaveGen 在以 Emilia 訓練的 TTS 模型中達到最先進表現,但提供的項目資訊沒有列出具體指標或比較數值,因此難以判斷它在不同語言、聲線或實際產品情境中的差距。項目亦公開程式碼和模型權重,適合研究人員及語音團隊檢視端到端生成方法,或在自己的 GPU 環境測試;亦可先透過 Hugging Face Space 示範試聽。

模型以內部頻譜軌跡學習處理語音生成。建議用於推理的 WaveGen V-Spec 附有 EMA(Exponential Moving Average)權重;WaveGen-Flash 則由 V-Spec 蒸餾而來,只需四步生成語音。這個版本減少生成步數,但項目文件尚未交代蒸餾細節,亦未提供速度與音質的量化取捨。

  • 部署測試:可用 Hugging Face 示範試聽,或按項目提供的 Python 程式、模型權重自行執行推理及評估。
  • 模型選擇:一般推理可先試 V-Spec;需要較少生成步數時,可測試四步版 Flash。
  • 已知範圍:公開訓練資料為 Emilia,音訊規格是 24 kHz,不能據此推定其他資料或語言同樣適用。

對想研究端到端文字轉語音、並能自行準備推理環境的團隊,WaveGen 提供了可測試的模型與程式碼;若要評估商用部署,仍需自行核對目標語言的音質、推理成本及授權安排。

項目主頁 · GitHub · 模型

Categories: 開源, 文字轉語音, 模型, 模型訓練, NVIDIA, Audio, Python, 語音, Dataset 數據集

EarthRecord:多模態代理直接分析四十年衛星紀錄

EarthRecord 把未預先整理的多衛星資料交給多模態代理,檢驗它們能否從影像中可靠判讀土地變化,而非只靠地理常識作答。

One question answered under three conditions, the benchmark and protocol, and results of twelve agents

判斷森林、城市或水體如何變化,不能只看一張整理好的地圖;代理還要選資料、遮雲、統一不同衛星的尺度,再把影像轉成答案。EarthRecord 是一套評測基準,專門測試多模態代理能否從四十年的原始衛星紀錄完成這些分析,並把資料依賴與憑先驗知識猜答分開檢查。

資料涵蓋 56 個地點、1984 至 2026 年的 Landsat、MODIS、VIIRS 和 Sentinel-2 影像,另有輔助圖層。代理在離線環境中使用 Python、shell 和影像檢視器處理單一地點資料;資料只按範圍裁切,數值未經預先整理,參考答案則不會提供給代理。這比直接餵入乾淨影像或預處理結果更貼近分析工作,但也令錯誤可能來自資料處理、跨衛星對齊或判讀本身。

基準共有 238 條問題,分為十類;其中 153 條可由資料計算,73 條詢問地面實況,另有 12 條刻意設計成證據不足。評測十二個代理後,領先系統大多能端到端完成分析,但需要從影像製作地圖的問題仍較弱。另一個警號是,改動一種衛星的資料、而地面狀況保持不變時,正確答案約有一半會跟着改變,顯示部分結果對單一資料來源過度敏感。

  • 56 個地點覆蓋多種區域尺度,並串連四種衛星資料。
  • 同一問題另設不提供衛星紀錄的閉卷測試,衡量先驗知識能答到多少。
  • 22 組衛星資料互換測試及 8 組安慰劑組合,用來檢查答案是否受資料改動影響。
  • 資料集、評測程式和十二個代理的結果均已公開,可用於重現比較。

研究團隊、地球觀測分析人員,以及開發資料分析代理的團隊,都可用它檢查代理是否真正讀懂衛星紀錄,而不只是給出合理措辭。它目前是評測基準,不是即裝即用的土地監測服務;使用者需要自行準備執行環境並按項目文件取得資料。評分涵蓋參考答案比對、閉卷控制與衛星資料改動測試,能揭示端到端流程中的脆弱點,但不能取代專家對特定地區的實地核實。

項目主頁 · GitHub

Categories: 開源, 香港大學, 香港科技大學, 多模態模型, Image, 香港, Python, Dataset 數據集

Tree-Ising:告別昂貴的 Agent 權重維修

模型反覆推理卻走不出迴圈,未必需要大幅重訓。Tree-Ising 嘗試直接挑選少量權重修改,降低修補成本。

Repository image for TheQuantumGOAT/Tree-Ising

Tree-Ising 是修補語言模型推理迴圈的研究工具。作者以需要大量互動與生成的代理改權重流程作對照,改用模型運算統計挑選修改位置,減少搜尋開支。

方法沿用 state trees,把權重視為離散決策路徑;只對 Brain Floating Point 16(BF16)權重作少量正負號翻轉及二的冪次縮放,再以 forward pass 統計,為每個輸出列建立 Quadratic Unconstrained Binary Optimization(QUBO)問題。

專案核心機制:樹狀伊辛自旋晶格(Tree-structured Ising Spin Lattice)、位元級量化權重矩陣(Bit-level Quantized Weights)、正向傳播無梯度修復(Forward passes only / No gradients)與稀疏編輯(Sparse format-native edits)

  • 提供 simulated annealing 與 simulated bifurcation 求解。
  • 作者報告 Qwen3.5-0.8B 的 MATH-500 成績為 54.6%,對照修改為 51.7%。
  • 同一方法令 Qwen3.5-2B 的 GSM8K 成績由 21.6% 升至 69.4%。

研究團隊可先在 Python 3.11 環境驗證實驗設定,再準備模型與題目、收集答案及統計,產生完整 Hugging Face checkpoint。修補需要 Linux 與 NVIDIA 顯示卡;項目文件列出的實驗使用 40GB A100。

這種離散修改適合研究局部修補的成本與效果,但上述數字屬作者報告的數學測試結果,尚不足以判斷其他模型或一般對話能力是否同樣受益。

項目主頁 · GitHub · Paper

Categories: 開源, 模型, 模型訓練, Qwen, NVIDIA, 工具, Linux, Python

Grok Bot:把社交媒體流程拆成六個 AI 助手

一套月費 30 美元的配置,讓六個 AI 助手分工處理社交內容;發佈前仍由你拍板,亦要另付發文工具費用。

Og image

在 x.com 上看到有人用 GrokBot 成功借助開源工具做出一個社交媒體部門,經營社交媒體往往要兼顧找題材、寫稿、製圖、排程和檢視成效。這篇文章轉錄他示範如何用 Grok Bot 建立六個分工助手,讓創作者把日常流程交給雲端執行,自己保留發佈前的最後決定。

六個助手各司其職:研究題材、模仿帳戶語氣撰稿、製作視覺內容、安排發文時間、整理成效報告,以及統籌其餘五個助手。與把所有工作塞進單一提示詞不同,這種配置將任務分開,也可在關閉電腦後繼續運作;適合需要固定更新社交帳戶、但不想逐項手動處理的個人或小型團隊。

文章同時指出一個關鍵限制:Grok Bot 的官方 X connector 可搜尋貼文、讀取時間線和查看提及,卻沒有直接發文的工具。要把內容發到 X 或其他平台,仍須另接發文服務;因此,月費 30 美元只涵蓋 Grok Bot 所屬訂閱方案,發文工具費用另計。

整套流程仍以人工批准作最後把關,助手負責準備內容,不會未經同意就上線。使用者亦要留意每週用量配額未有公開具體數字,六個助手若配置不當可能很快耗用配額;若要製作圖片,還需另備 Canva 等設計工具。

  • 六個助手分工處理研究、寫作、視覺、排程、分析與統籌。
  • Grok Bot 可讀取 X 資料,但官方 connector 不支援直接發文。
  • 發文服務和設計工具可能產生額外費用。
  • 貼文須經人工批准;每週用量配額亦是成本考量。

項目主頁

Categories: 開源, Agentic, Image, 提示詞, 工具, Content Creator, 語音

Gemini Robotics 2.5:讓機械人更懂得感知與行動

Gemini Robotics 2.5 聚焦真實環境中的機械人智能,讓機械人感知周遭、作出推理並與環境互動。

1p0vcWGLECMy9qInQW 1AumUwO5fa37wyJ66G0eO8H14BurbFkN7NkKAXbjXYXZ9tS034NyZ9ByuQk8ptQ24dLcMBeg6o fHMmauBZJ7KAXdM5NHFQ=w1440

過去數年,人工智慧在大語言模型(LLM)與多模態推理上取得了突破性進展。然而,當我們嘗試將這些「數位大腦」移植到實體機器人時,卻遭遇了嚴苛的現實障礙:機器人在實驗室裡表現亮眼,一旦走進雜亂、充滿動態變數的真實世界,往往因缺乏靈巧度、應變力與安全性而頻繁失誤。

Gemini Robotics 2.5 的方向,是把感知、推理和互動能力帶進實體機械人工作流程,面向需要處理真實物件與環境變化的任務。

與預設指令執行固定動作的做法相比,這類模型著重把視覺理解、推理及工具使用連接起來。對研究機械人控制、設計任務流程或探索人機協作的團隊,這種能力有望減少任務與環境之間的落差。

Gemini Robotics 2.5,正是為了解決這道橫跨在「數位認知」與「物理操作」之間的鴻溝。作為迄今最強大的視覺-語言-動作(Vision-Language-Action, VLA)模型,Gemini Robotics 2.5 不僅提升了機器人的操作靈巧度與學習速度,更透過在賓士(Mercedes-Benz)真實汽車裝配線上的驗證,象徵實體智慧(Physical Intelligence)正式跨出實驗室,邁向規模化落地。

從以下幾點理解它的定位:
– 面向真實世界的實體互動,而非只生成文字或影像。
– 涵蓋感知、推理、工具使用與環境互動。
– 適合關注機械人任務規劃及人機協作的研究與開發團隊。

項目主頁

Categories: Agentic, 模型, Google, Gemini, NanoBanana, Video, Image, Audio, Robotic, 工具, 安全

ProTEUS 顛覆閉環蛋白質的「突變解析世界模型」

設計蛋白質變異時,預測只是起點;ProTEUS 把模型排序和濕實驗結果接起來,逐輪挑選更有機會提升功能的候選序列。

proteus logo

在合成生物學與生物製藥領域,高活性、高穩定性的蛋白質酶一直是生技研發的核心聖杯。然而,傳統的「定向進化(Directed Evolution)」與當前主流的 AI 蛋白質設計工具,依然被困在巨大的序列空間與昂貴的濕實驗(Wet-lab)瓶頸中。

挑選蛋白質變異時,單靠預測未必能找出真正有效的序列。ProTEUS 把模型設計、實驗室測量和下一輪候選連成閉環,協助研究人員逐輪搜尋具有更高活性的變異蛋白。

蛋白質由 20 種天然胺基酸排列組合而成,僅僅一條 300 個胺基酸的中型蛋白質,其潛在突變空間就高達 $20^{300}$,遠超宇宙原子總數。項目先利用已測量的蛋白質功能資料訓練模型,再根據突變效果為候選序列排序;每輪測試 30 個變異,取得濕實驗結果後,便用累積測量重新調整目標預測器。預訓練表示則保持固定,讓後續搜尋能利用新結果,而不必每輪重做整套預訓練。

ProTEUS 在兩種蛋白質上展示了閉環演化流程。SacB 經過 3 輪、測試 90 個變異,最佳篩選活性達野生型的 14.03 倍;另一條 SacB 演化路線達 12.38 倍。ALDH 經過 5 輪、測試 150 個變異,最佳篩選活性為野生型的 6.85 倍。這些數字是篩選活性,不應直接解讀為已證明所有用途下的功能提升。

項目亦以 132 萬筆變異測量、涵蓋 161 種蛋白質背景的資料進行預訓練。研究報告指出,把功能訓練資料增加 80 倍後,測試誤差下降 56.3%;在預訓練測定中的留出變異測試,MSE 由 0.262 降至 0.115。這些結果反映特定資料與評估設定下的表現,未代表所有蛋白質或實驗條件。

ProTEUS 適合需要在有限實驗批次中安排蛋白質候選測試的研究工作流,尤其是能反覆測量功能並把結果用於下一輪設計的情境。它的成果仍受目標蛋白、測定方式和候選範圍限制,實驗驗證是閉環中不可缺少的一環。

項目主頁 · GitHub · 模型

Categories: 開源, Agentic, 模型, 世界模型, 模型訓練, Video, Vibe Coding, Medical醫學, 編程, 安全

MiniMax-H3-Image:1600 萬像素解析度。支援 16 張參考圖編修影像

驚人的逼真效果。精準的快速跟隨和編輯。最多可導入16張參考影像。所有操作僅需10秒。文字生圖與多圖編修可接入同一套服務,但仍未支援遮罩編輯與透明背景。

Og image

真正將生成式影像投入專業商業生產線的創作者,往往面臨著難以言說的妥協:一般模型輸出解析度長年卡在 1024×1024(約 100 萬至 400 萬像素),若要用於印刷或 4K/8K 螢幕,必須仰賴外掛的 Upscaler(超解析度放大演算法);而這些外掛放大器往往會破壞原圖細節,甚至生成不自然的面部扭曲與塑膠質感。此外,多數開源模型在面對多圖參照、精準編輯時,指令遵循度(Instruction Following)常顯疲態。

MiniMax 官網最新推出開源 MiniMax-H3-Image 影像模型,它提供兩種入口,方便開發者將生圖與編修接入創作流程。編修時可同時輸入指令及 1 至 16 張參考圖。

輸出可自訂寬高,或按長寬比配合面積級別設定,最高達 2,000 萬像素。兩種尺寸設定不能混用;當中的 1K、2K、4K 代表目標面積級別,並非固定邊長。

  • 每次可生成 1 至 10 張圖片。
  • ComfyUI 亦已正式發佈 Template 支持
  • 支援 jpeg、png、webp 輸出。
  • 啟用 stream 後,結果會逐張傳回,不提供預覽圖。
  • 不支援遮罩編輯或透明背景。

prompt 最多接受 32,000 字元,但關閉提示詞增強(prompt enhancement)後,約只有前 4,096 個 tokens 生效,安排詳細需求時要留意。

MiniMax-H3-Image 擁有高達 331 億(33.1B)參數的密集型單流 Diffusion Transformer(DiT),骨幹網絡繼承自 MiniMax-H3 系列,具備 50 層密集架構與 3D 多模態 RoPE。如此龐大的模型,若採用傳統 30~50 步的採樣排程,推論成本將極其高昂。
MiniMax 透過尖端蒸餾技術,將推論採樣壓縮至僅需 6 個採樣步驟(6 NFEs)且無需 CFG(Classifier-Free Guidance)。這意味著在 SGLang 或 vLLM-Omni 框架下,結合序列並行(Sequence Parallelism / Ulysses),可以在單卡或多卡 GPU 叢集上以極短延遲輸出巨幅畫面,使商業化的高畫質即時生成具備了經濟可行性。

需要嘗試較快版本,可指定 MiniMax-H3-Image-Highspeed,參數與限制相同。

項目主頁 · 模型

Categories: MCP, 模型, Google, NVIDIA, API, Video, Image, 影像模型, txt2img, 提示詞, 教學, Discord, Python, 語音, 蘋果, MiniMax

Page 1 of 190
1 2 3 … 190