NexaSDK 是一個高性能的本地推理框架，可以在 NPU、GPU 和 CPU 上運行最新的多模態 AI 模型，支持 Android、Windows、Linux、macOS 和 iOS 設備。它只需幾行代碼，就能在設備上搭建最智能、最快的 AI 應用。NexaSDK 支持最新的模型，比如 Qwen3-VL、DeepSeek-OCR、Gemma3n 等，且比其他框架提前幾周或幾個月支持。。

使用 NexaSDK 建立真正的裝置端 AI 應用，將有獲得獎勵。（詳情)

另外，NexaSDK 還提供了一個簡單易用的命令列介面（CLI），讓使用者可以快速測試不同的模型。例如，你可以用一行指令就開始與 Qwen3 模型聊天，或者進行多模態任務，比如拖曳圖片到 CLI 裡進行處理。

DeepEP 是一個針對（MOE）和專家並行性（EP）的混合通信庫。它提供了高通量和低延遲的全 gpu 內核，它們稱之為 MOE 調度和組合。同時支持低精度的操作，包括 FP8。DeepSeek 公佈本星期將會是開放源碼週（OpenSourceWeek），並將會相繼推出五個開源軟件庫。他們昨日已經開放第一個代碼庫 FlashMLA。DeepSeek 今日繼續開放創新的底層架構 DeepEP，是首個用於 MoE 模型訓練和推理的 EP 通信庫 。