InfraRSI 是一個專注於大語言模型（LLM）訓練基礎設施優化的自主 Agent（Harness）。其核心理念是利用遞歸自我改進（Recursive Self-Improvement, RSI）技術，自動為既有的訓練任務進行效能調優與程式碼層級的最佳化。
傳統的調優工具多半聚焦在超參數搜尋（Knob Tuning）— 例如嘗試調整 Batch Size、Gradient Accumulation Steps 或是平行度設定。然而在現代 GPU 叢集上，真正的效能瓶頸往往深植於程式碼層級：
何時該導入融合算子 (Fused Kernels)？如何正確啟用 Flash Attention 與 torch.compile 編譯注意力機制？如何在 Activation Checkpointing、Offload 與運算速度之間取得平衡，避免顧了顯存卻犧牲吞吐量？
InfraRSI 突破傳統純調參（Knob Tuning）的局限，自動引入融合算子（Fused Kernels）、編譯注意力機制（torch.compile）及顯存平衡策略。官方實測平均提速達 1.83×，MFU 由 17.4% 大幅拉升至 30.0%。
RSI 經嚴格驗證的成功方案會寫入知識庫。跨 GPU 硬件遷移時能直接沿用歷史經驗，大幅縮短摸索至效能峰值的時間。
嚴謹驗證的機制包括內置 16 項不變量檢驗，確保數據量、Optimizer Steps 完全一致且 Loss 偏差在容許範圍內；配合雙模型交叉審查（一個寫 Patch、另一個 Code Review）及背靠背複測，杜絕訓練異常。
廣泛支援並相容 Megatron-Core、FSDP2、DeepSpeed 等主流框架；後端可直接串接本機已登入的 Claude Code、Codex CLI，或各類 OpenAI 相容 API 與自建 vLLM。
快速上手，執行單一 Bash 指令即可開始運作 ：
infrarsi optimize ./train.sh --llm codex-cli
啟動時會透過互動式問答確認設定，並支援以自然語言下達限制（例如「不能改動 optimizer」、「batch size 不可大過 4」）。系統驗證完成後，會直接輸出最佳化腳本 infrarsi_optimized.sh 與審核完畢的程式碼補丁，讓團隊以極低門檻榨盡 GPU 算力。
項目主頁 GitHub
