NEWS / 活用事例

Qiita:AgenticRAG判断をJevに置き換えた検証

AgenticRAGの仕分け・十分性判定をJevへ移し、正解率は互角、待ち時間とコストが約半分になったとする報告。

要点

  • 著者はBedrock上のAgenticRAGと、仕分け・回答可否をJevに渡すLambdaワークフロー(JevRAG)を49問で比べたと報告している
  • 正解率はほぼ互角。複数質問では「判断と次クエリが1回のLLMにまとまっていた」ため、判断だけ抜いても劇的短縮にはならなかったとしている
  • E2E待ち時間とコストは約半分。閾値付きのif分岐で主導権をコード側に戻せた点が一番よかったと述べている

何が変わるか

エージェント内の判断をJevへ切り出すときの、期待と実際の差を測った検証になる。数値は著者の規程KB・モデル設定での報告。

関連ガイド

出典・参考リンク

  1. コミュニティ AgenticRAGの判断をJevにしたら、爆速にはならなかったけど主導権が返ってきた