レート制限と、請求ショックの罠

メニューが大きな声で言わないが、間違いなくあなたを噛んでくるものがもう2つある。

レート制限。 API は、ある一定の時間枠の中で行えるリクエスト数に上限を設けている——たとえば1分あたり100回といった具合だ。それを超えると、速度を落とすまで 429 Too Many Requests エラーで拒否される。これは、ひとりの顧客がサービスを圧倒してしまうのを防ぐために存在する。罠はこうだ。AI が書いたコードは、しばしば一時停止なしのループの中で API を呼び出し、あっという間に制限を突破する。ある機能が1件では動くのに1000件以上で動かすと壊れるなら、レート制限が第一の容疑者だ。

従量課金・有料の API。 多くの API はリクエストごとに課金する——1回あたり1セントの何分の1かといった額だ。数回の呼び出しなら何でもないが、何かが制御不能にループすると本物の請求になる。古典的な恐怖譚はこうだ。バグが失敗した有料の呼び出しを永遠にリトライし続ける、あるいは公開フォームが見知らぬ人に有料の呼び出しを起こさせて、朝起きたら4桁の請求書が届いている。自分を守ろう。

• 有料の API をつなぐ前に料金を読むこと。1回あたりのコストを把握する。
• プロバイダーのダッシュボードに支出上限や予算アラートがあるなら設定すること。たいていある。
• 有料の API をループの中や、ページ読み込みのたびに呼び出すようなコードは、すべて疑ってかかること。