何をするものか
公開ウェイトの LLM から、文字列を生成せずに型つきの判定と確率を読む、非公式の Python ライブラリである。パッケージ名は open-alternative-jev、import 名は so1。README は、TypeSafe の Jev の考え方に対するオープンな代替で、自分の GPU 上のモデルで動く、と書いている。公式 API の差し替えになる HTTP サーバは無い。
Jev とどう関係するか
公式の System One は呼ばない。README は、Jev の専用アーキテクチャや学習方法の再現ではない、とも書いている。同じ README の前半には、第三者のベンチマークで測った数値と、作者が API 経由で参照した Jev 1.13.0 の数値を並べた表がある。優劣はこのサイトでは断定しない。非公式であり、TypeSafe の製品ではない。
試し方
README の pip 手順で入れ、Transformers か vLLM の上で動かす。生の確率は過信になりやすいので、自分のラベルで温度を合わせる、と README は注意している。確率の読み方は確率と confidenceを参照する。このサイトでは動かしていない。