SHOWCASE

Jevegis:Jevで判定するLLMアプリ用ガードレール

プロンプトインジェクションや情報漏えい、不適切な内容などをJevへの一度の問い合わせでまとめて判定するガードレールAPI。

何をするものか

LLM アプリの入力・出力・取得文書を対象に、プロンプトインジェクション、脱獄、認証情報や個人情報の漏えい、不正な操作、悪意あるコードなどを検査する Next.js 製のガードレール API。モデレーション用のエンドポイントも持つ。

Jev をどこでどう使っているか

src/lib/engine.ts が検査項目をまとめて1回の Jev リクエストに組み立て、@typesafe-ai/sdk の systemOne で受け取った確率にしきい値を当てて判定と理由を返す。ラベル付きケースでの評価スクリプトも同梱されている。

試し方

リポジトリを取得し、.env.example を元に TYPESAFE_API_KEY と Supabase の設定を入れて開発サーバーを起動する。このサイトでは実行確認していない。

出典・参考リンク

  1. コード 0xArx/jevegis