NEWS / 活用事例

Zenn:長期記憶検索をJevで1/17トークンに

AIエージェントの長期記憶検索で候補をJevが並べ替え、入力トークンを約1/17に削った設計と評価がZennに出た。

要点

  • 著者は長期記憶(brain)の検索で、全文検索の候補を Jev が並べ替える構成に変えたと報告している
  • 検索語40件の比較では、旧検索が0件だった17件のうち15件で新検索が1位に目当ての記録を出したと述べている
  • 最初の版は入力約32kトークンだったが、候補の表し方を詰めて約1.8k(約1/17)まで減らした過程が書かれている

何が変わるか

エージェントの記憶検索を「候補集め+判定モデルの並べ替え」に分ける設計例になる。数値は著者環境・検索語セットの報告であり、他データへの一般化は記事だけでは断言できない。

関連ガイド

出典・参考リンク

  1. コミュニティ AI エージェントの長期記憶の検索を判定モデル Jev に任せ、入力トークンを 1/17 に削るまで