淘寶直播 AIGC 團隊針對直播帶貨 AI 主播的實時互動需求，提出 Harness-Aware Training（HAT）框架，令小模型能在頻繁更新的策略環境中保持低延遲與高適應力。
淘寶直播旗下的 TaoLive AIGC LLM 團隊發表技術報告，提出一套名為 Harness-Aware Training（HAT）的訓練方法，專門用於訓練能在直播帶貨場景中即時回答商品問題、與觀眾互動並執行營銷策略的數字人主播。團隊指出，直播帶貨對延遲極為敏感，同時行銷規則與商戶偏好又會持續變動，因此業界普遍採用「可演化 Harness」設計，把 Skills、Hooks、prompts 和 tools 與模型參數解耦，策略改動時不必重新訓練模型。然而這種做法帶來明顯取捨：大模型雖然泛化能力強，能夠零樣本適應 Harness 變動，但延遲太高；小模型延遲符合實時要求，卻容易過拟合到固定的 Harness 設定，一旦配置更新就需要重新訓練。
HAT 的核心思路是在訓練階段就讓模型接觸大量不同的 Harness 配置，使它學會「讀懂當前的 Harness」，而非記住某一個固定版本。具體做法引入 Harness-State Augmentation（HSA），對 Skill 識別碼、Skill 內容、工具 schema、prompt 結構及 Hook 函數施加保留任務語義的轉換。訓練分為三個階段：HSA-SFT 讓小模型從強模型生成、在多樣化環境中收集的高質量軌跡學習，直接提升推理與工具調用能力；General OPD 透過 On-Policy Distillation 在通用從基礎模型學習，恢復 SFT 過程中受損的泛化能力；HSA-RL 則在經 HSA 增廣的多樣化環境中做強化學習，進一步強化模型對變動 Harness 的理解與工具調用穩定性。
HAT 訓練的模型在 Live-Stream QA 上平均得分 94.8，明顯高於基礎模型的 80.3 和最強通用 LLM 的 93.0；在 Harness-Variant QA 上亦達到 94.6，遠超基礎模型的 75.4。傳統 Fixed-Harness SFT 會令 IFEval 分數較基礎模型下跌 7.7 分，而 HAT 不單避免這種下跌，更取得 83.5 分。在部署層面，模型可在單張 NVIDIA H20 GPU（啟用優化）上運行，P50 延遲 3.4 秒、P95 8.1 秒，已滿足實時互動門檻。系統已落地至淘寶直播的生產環境，線上 A/B 測試顯示相對 ReAct 對照組，Harness 實驗組在確認收貨 GMV 上帶來 4.33% 的 UV 標準化提升、商品頁瀏覽量提升 0.91%。
對需要快速疊代策略、又受制於延遲與算力的實時對話代理團隊而言，這份報告展示了一條可落地的工程路徑。
重點摘要
– 淘寶直播 AIGC 團隊針對直播帶貨 AI 主播提出 HAT 訓練框架
– 解決小模型過拟合固定 Harness、無法跟上策略更新的核心矛盾
– 透過 HSA 增廣與三階段訓練兼顧延遲、泛化與工具調用穩定性
– IFEval 分數避免傳統 SFT 出現的 7.7 分下跌，反升至 83.5
– 已在淘寶直播生產環境上線，A/B 測試帶來 GMV 與瀏覽量提升
Paper
