要点
- TypeSafe公式のModelsページでは、
jev-1.13.0のレート制限が「毎秒10万トークン/毎秒80リクエスト」と書かれている(2026-10-05 に確認) - 当サイトが10月3日に保存した同ページでは、リクエスト側は毎秒40だった。9月下旬の時点では、リクエスト数を毎分で数える書き方だった
- どちらかの上限を超えると
429 Too Many Requestsが返る。公式SDKは既定でバックオフしながら再試行し、retry-afterヘッダーがあれば従う
何が変わるか
ページには、需要が大きいため上限は予告なく変わりうるという注意書きがあり、より高い上限はカスタム/エンタープライズ契約で相談するよう案内されている。一括処理や並列呼び出しでは、上限を固定値として作り込まず、429を前提に再試行と流量制御を入れておくのが無難。HTTP APIを直接呼ぶ場合は、APIリファレンスの「Handling rate limits」も参照するとよい。