2B 級開源模型一向被視為「垃圾」，但 OpenBMB 推出 MiniCPM5-2B 想直接打破呢個印象。佢係一個密集 2B Transformer，專為本機部署、資源受限場景同 Agent 工作流而設，並非追求跑分，而係希望用細模型扛起編碼、工具調用同長文本推理嘅實際任務。
佢最大嘅賣點係混合注意力架構：25% InfLLM-V2 配 75% Lightning Attention，前者處理局部細節，後者負責廣域上下文，避開全注意力喺長序列嘅記憶體負擔。另一關鍵係 Transformer-to-Hybrid Continue Training，直接喺預訓練權重上做架構轉換，省去冷啟動訓練成本，整體訓練預算大約只需從頭練一個同級模型嘅 25%。
喺長文本佢喺 256K token 序列長度下推論速度達 Qwen3-8B 嘅 3.5 倍（A6000D 實測），1M token 仍可運行，而 Qwen3-8B 喺 1M 已經 OOM。短文本方面，佢嘅知識、數學、編碼能力貼近 Qwen3-8B，但長文本基準測試反而更高，可以理解為「細模型唔再需要喺長短場景之間二擇一」。
對想喺本機跑 Agent、或需要處理超長文件嘅開發者同團隊，呢個模型提供咗一個具體選項。OpenBMB 同時開源咗 UltraX 預訓練數據集、UltraData-Code、UltraData-SFT-Agent-2609（50 萬條 Agent 樣本）同 UltraData-RL-2609，方便下游微調。Hugging Face 有線上 Demo 可即時試，GitHub 上亦有部署與微調腳本。
- 混合注意力：25% InfLLM-V2 + 75% Lightning Attention，兼顧局部同廣域上下文
- 架構延續訓練：Transformer 權重直接轉為混合架構，訓練成本僅約 25%
- 長文本表現：256K 推論速度為 Qwen3-8B 嘅 3.5 倍，1M token 仍可運行
- 短文本保持競爭力：知識、數學、編碼接近 Qwen3-8B 水平
- 配套開源數據：UltraData 系列涵蓋預訓練、Agent SFT、RL 樣本