はじめに

こんにちは。kisaragi です。
Amazon Bedrock の処理を行う AWS Lambda からタイトルのエラーが発生したので、その原因と解決方法をご紹介します。

エラーについて

エラー内容

An error occurred (ThrottlingException) when calling the InvokeModel operation (reached max retries: 4): Too many requests, please wait before trying again. You have sent too many requests. Wait before trying

Lambda の CloudWatch Logs を見ると、上記エラー内容が表示されていました。
普段、こちらの Lambda の動作には問題なかったのですが、たまに上記エラーが発生することが謎でした。

原因

説明（和訳）

Anthonic Claude 3.5 Sonnetのモデル推論を1分間で呼び出すことができる最大回数。 クォータは、Converse、ConverseStream、InvokeModel、および InvokeModelWithResponseStream の合計を考慮します。

Amazon Bedrock には、On-demand InvokeModel requests per minute for {モデル名} というサービスクォータが存在します。
今回は利用していた Anthropic Claude 3.5 Sonnet のサービスクォータの上限が 1 になっておりました。

つまり、1分間に1回までしか実行できない状態だったので、1分間に2回以上の処理が実行されたのがエラーの原因でした。

解決方法

今回はサービスクォーターの上限緩和申請を行うことで簡単に解決することが出来ました。

【AWS Support ユーザーガイド】Service Quotas の引き上げの作成
上記を参考に、上限緩和申請を行ってください。

まとめ

• An error occurred (ThrottlingException) when calling the InvokeModel operation: Too many requests エラーが発生したら、先ずはサービスクォーターを確認します。
• 解決のためにはサービスクォーターの上限緩和申請を行います。