SHOWCASE

toolgate:危険なツール呼び出しをJevの確率で止める門番

Claude CodeのフックやMCPプロキシとして動き、実行前のツール呼び出しをJevに複数の観点で判定させて許可・確認・拒否を決める。

何をするものか

AI エージェントがツールを実行する前に割り込み、取り消せない削除、データの外部送信、権限の昇格、秘密情報の露出、作業範囲外の操作などを判定して、許可・確認・拒否を返すファイアウォール。ポリシーは YAML で書き、判定は確率つきで記録される。

Jev をどこでどう使っているか

README によると、TypeSafe の Jev に観点ごとの質問をまとめて送り、返った確率としきい値で振る舞いを決める。依頼内容がその操作を求めているかを聞く緩和の質問もある。接続先は TypeSafe の API のほか、OpenRouter や Vercel AI Gateway も選べる。

試し方

npm install -g @riskaverse/toolgate のあと TYPESAFE_API_KEY を設定し、toolgate init で Claude Code にフックを入れる。このサイトでは実行確認していない。

出典・参考リンク

  1. コード RiskAverseTech/toolgate