
想提升 RTX 4090 的 FP16、BF16 張量運算能力,這個 Linux 核心模組會在原廠 NVIDIA 驅動程式啟動前套用 SM speed-select override。它針對的是 FP32 累加的張量指令路徑,不是全面提高顯示卡效能;項目亦列出 RTX 4070 Ti SUPER 的實驗結果,Ada 系列支援仍須按型號和環境驗證。
測試中,RTX 4090 的 FP16/FP32 指令吞吐由約 160 TF/s 升至 320 TF/s,BF16/FP32 亦接近翻倍。不過,cuBLAS GEMM 的增幅按矩陣尺寸約為 12% 至 34%;量化混合專家模型推理測試則沒有加速,反映指令吞吐提升不等於應用程式整體提速。
模組須在 NVIDIA 驅動程式初始化前生效,因此項目提供 mkinitcpio 和 dracut 的 initramfs 設定方式,並附有 Quick Start、測試流程及各次硬件與驅動程式測試記錄。測試涵蓋 PCIe Function Level Reset、驅動程式交接和數值檢查,但不少結果來自單張顯示卡或單次配對測試,未足以證明長期穩定性。
• RTX 4090 的 FP16、BF16 張量指令吞吐接近翻倍。
• GEMM 增幅依矩陣形狀而異,量化推理未見收益。
• 支援依賴核心、顯示卡型號及 NVIDIA 驅動程式組合。
• 適合有 Linux GPU 測試環境、能自行核對結果的研究者與工程團隊。
對需要測試 NVidia RTX 4090 Ada GPU 張量指令上限的團隊,這項目提供了可查閱的測試流程與硬件證據;若工作負載主要依賴量化矩陣運算,或要求長時間穩定運行,現有結果並未證明它能帶來相應收益。