小米自 2021 年重啟大晶片研發計劃後，已投入超過 210 億元人民幣，晶片團隊增至近 3,000 名專家。團隊在玄戒晶片技術溝通會展示 AI Cube 工程原型，嘗試處理本機運行大型語言模型時的運算與功耗取捨。
AI Cube 由玄戒 O3、O100 及 D100 三款自研晶片協同工作。O3 負責一般處理與圖像運算，O100 針對裝置端大型模型提供高頻寬加速，D100 則提供高算力 AI 運算及統一記憶體，最高支援 2,000 億參數模型。
原型機持續功耗最高 150W，並可部署 120B 及 3B 兩種規模模型，在快速與慢速系統之間切換，用來驗證不同晶片的分工。O100 的近記憶體運算頻寬最高達 1.22TB/s，官方表示裝置端大型模型推理速度最高可達 330 TPS。
Xiaomi Just Shocked NVIDIA — A Tiny AI Cube Running 120B Locally
對需要本機處理 AI 工作負載、又希望減少雲端依賴的工作流，這種多晶片設計提供另一種方向，但目前仍要留意原型機與正式產品之間的差距：
- 以三款玄戒晶片分工處理 CPU、GPU、NPU 及大型模型運算
- 最高支援 2,000 億參數模型，原型機已展示 120B 與 3B 模型配置
- 持續功耗最高 150W，並支援快速及慢速系統切換
- 玄戒 O3 已展開規模量產，O100 及 D100 預計 2027 年正式商用
- 小米尚未公布 AI Cube 的上市時間及售價