Batas laju (rate limit) dan jebakan tagihan mendadak
Dua hal lagi yang tidak diteriakkan oleh menu tapi akan benar-benar menggigitmu.
Batas laju (). membatasi berapa banyak permintaan yang bisa kamu ajukan dalam satu jendela waktu — katakanlah 100 per menit. Melewatinya dan kamu akan ditolak dengan error 429 Too Many Requests sampai kamu melambat. Ini ada untuk mencegah satu pelanggan membebani layanan secara berlebihan. Jebakannya: kode buatan AI sering memanggil API dalam sebuah loop tanpa jeda, langsung menembus batasnya. Jika sebuah fitur bekerja untuk satu item tapi rusak saat kamu menjalankannya untuk seribu item, batas laju adalah tersangka utama.
API berbayar dan bertarif ukur (metered). Banyak API mengenakan biaya per permintaan — pecahan sen setiap kali. Itu tidak berarti apa-apa untuk beberapa panggilan, tapi jadi tagihan sungguhan saat sesuatu ber-loop di luar kendali. Cerita horor klasik: sebuah bug mencoba ulang panggilan berbayar yang gagal selamanya, atau sebuah formulir publik membiarkan orang asing memicu panggilan berbayar, dan kamu bangun dengan tagihan berdigit empat. Lindungi dirimu:
- Baca harga sebelum kamu menghubungkan API berbayar. Ketahui biaya per panggilan.
- Atur batas pengeluaran atau peringatan anggaran di dashboard penyedia layanan jika mereka menawarkannya. Kebanyakan menawarkan.
- Curigai kode apa pun yang memanggil API berbayar di dalam sebuah loop atau di setiap pemuatan halaman.