
TypeSafe AI 公開了首款 System One Model Jev,走出一條與通用聊天模型完全不同的路線。常見大型語言模型擅長生成自然語言,但要嵌入軟件流程就得花工夫解析、回傳值還可能出錯;Jev 索性放棄字串生成,把所有可能輸出預先定義成型別,模型只負責在這些選項之間做機率決策,因此不可能出現型別錯誤,也不會「講大話」。
這個模型採用平行取樣(parallel sampler),所有輸出分支一次過生成而非逐 token 推播,速度比同類智能水平的 LLM 快大約一百倍。訓練方法稱為 RLCD(Reinforcement Learning for Calibrated Decisions),目標是讓模型給出「知道自己有多肯定」的機率分數。
創辦人 Diogo Almeida 曾在 OpenAI 參與 ChatGPT 背後的研究,他指出 chat 模型爆紅多年,自動化領域卻幾乎沒有同樣突破,因此希望用專門為軟件決策設計的架構填補這個缺口。Jev 目前以早期試用形式開放,介面相當於一個「前沿智能函式呼叫」。
重點摘要:
- 定位差異:放棄字串生成,只輸出預定義的型別安全結構化值,杜絕型別錯誤與幻覺。
- 速度優勢:平行取樣設計令推理速度比同級 LLM 快約一百倍。
- 訓練方法:採用 RLCD,著眼於校準過的機率分數而非人類偏好或可驗證獎勵。
- 輸出形式:所有答案附帶置信度分數,方便軟件直接消化。
- 存取方式:早期試用已開放,可透過官方網站加入候補名單。