何をするものか
LLM アプリの入力・出力・取得文書を対象に、プロンプトインジェクション、脱獄、認証情報や個人情報の漏えい、不正な操作、悪意あるコードなどを検査する Next.js 製のガードレール API。モデレーション用のエンドポイントも持つ。
Jev をどこでどう使っているか
src/lib/engine.ts が検査項目をまとめて1回の Jev リクエストに組み立て、@typesafe-ai/sdk の systemOne で受け取った確率にしきい値を当てて判定と理由を返す。ラベル付きケースでの評価スクリプトも同梱されている。
試し方
リポジトリを取得し、.env.example を元に TYPESAFE_API_KEY と Supabase の設定を入れて開発サーバーを起動する。このサイトでは実行確認していない。
出典・参考リンク
- コード 0xArx/jevegis