要点
- TypeSafe AI が公式ブログで、ソフトウェアがそのまま使える構造化された判定を高速に返すモデル群「System One」と、その最初のモデル Jev を発表した。Jev はアーリーアクセスとして提供が始まっている
- Jev は文字列の生成をやめ、あらかじめ決めた型の答えと、その確率・確信度を返す。公式は「非構造の状態を入れ、型つきの確率的な判定を受け取る関数呼び出し」と説明している
- 公式ブログに載っている料金は、入力が 100 万トークンあたり 0.042 ドル、出力は無料
何が変わるか
分類・採点・はい／いいえの判断のように、答えの形が決まっている処理は、LLM の出力を解析して検証する手間なしに書けるようになる。公式は、System One の課題で既存の LLM と同程度の知能を保ちながら、2 桁速く効率的だとしている。これは TypeSafe 自身の主張で、根拠として示されたベンチマークの読み方は別のガイドにまとめた。学習には、確率を正直に出すことを狙った RLCD（Reinforcement Learning for Calibrated Decisions）という手法を使ったと説明されている。文章の生成や要約はできないので、LLM の置き換えではなく、判定の部分だけを任せる使い方になる。