Xiaomi-Lens-0 讓 4B 視覺模型標註出答案

這個 4B 多模態模型把文字回答與像素級定位放在同一套推理中,適合需要理解物件、指出位置及分割影像的場景。

Xiaomi-Lens-0 recorded outputs across six task domains

要讓模型回答「紅色杯子在哪裡」之餘,同時準確框出甚至分割杯子,傳統多模態模型往往要串接多個模型。Xiaomi-Lens-0 試圖把這兩步合而為一:它以 Qwen3.5-4B 為基礎,在生成文字的過程中解讀 <|mask|> token,再由輕量解碼器輸出對應區域,令文字答案與視覺定位可以同步產生。

這個 4B 多模態模型主要處理 Referring Expression Comprehension、Referring Expression Segmentation、多實例定位、Reasoning Segmentation、具身指令指代及細緻感知等六類任務。它既能以邊界框指出物件,亦能輸出像素遮罩,適合影像標註、搜尋、選取區域及具身操作前的人工檢查。

  • 以 4B 規模結合文字回答、邊界框與像素級遮罩
  • 支援六類定位及視覺推理場景
  • 可在 Hugging Face Spaces 試用,亦公開模型權重與 LensBench
  • 提供每個遮罩獨立輸出及熱力圖等推理設定

模型在八個 RefCOCO 系列分割上的平均 referring comprehension 提升 5.6 分,並在八個細粒度感知測試中取得較高分數;項目頁另列出 RefCOCO 驗證集 Prec@0.5 為 94.6。LensBench 包含 4,800 個 instruction-level 樣本,涵蓋 1,200 個配對單位及四個領域。

代價是輸出遮罩需要額外視覺解碼,而模型規模仍屬輕量,複雜推理和高解析影像表現應按測試結果判斷。研究團隊已提供線上示範、模型權重及程式碼,適合想試驗視覺 grounding 的模型開發者、影像工具團隊和具身智能研究人員。

項目主頁 · GitHub · 模型

Categories: 開源, 模型, 多模態模型, Qwen, Image, 影像處理, 工具, 小米-Xiaomi