Biaya dan Loop yang Berlari Liar
otonom bekerja dengan melakukan perulangan (looping): coba, periksa, coba lagi. Loop itulah inti dari keseluruhannya — dan itu juga yang bisa diam-diam menaikkan tagihan atau berputar selamanya.
Ini terhubung dengan gagasan keamanan biaya dari sebelumnya: alat berlangganan (subscription) dengan tarif tetap gagal dengan cara berhenti; agent berbayar yang diukur per-penggunaan (metered) gagal dengan cara mengenakan biaya. Ketika asisten pengkodean berlangganan mencapai batasnya, ia hanya berhenti melakukan lebih banyak sampai jendelanya di-reset. Ketika sebuah skrip yang kamu tulis melawan API berbayar terjebak dalam loop percobaan ulang (retry loop), ia terus memanggil — dan setiap panggilan menelan biaya — sampai kamu menyadarinya atau kartumu mencapai batas maksimal.
Jadi aturannya bersifat blak-blakan:
- Jangan pernah menjalankan loop agent tanpa batas terhadap API berbayar. Jika kamu menulis loop sendiri yang memanggil API LLM (Large Language Model — jenis AI di balik alat-alat pengkodean ini), loop itu harus punya batas keras — jumlah maksimum iterasi, batas pengeluaran, batas waktu (timeout). Tidak ada pengecualian, tidak ada "aku akan mengawasinya." Kamu tidak akan melakukannya.
- Beri setiap loop jalan keluar. "Berhenti setelah N kali percobaan," "berhenti jika test masih gagal dua kali," "berhenti jika sudah berjalan sepuluh menit." Agent tanpa kondisi berhenti adalah sebuah bug, bukan sebuah fitur.
- Awasi jalan pertama. Sebelum kamu mempercayai sebuah agent untuk berjalan di latar belakang, awasi beberapa jalan di latar depan (foreground) dari awal sampai akhir. Kamu sedang memeriksa apakah ia konvergen — bahwa ia semakin dekat dengan selesai, bukannya terjebak berputar-putar pada perbaikan yang sama.
- Pilih alat dengan pagar pengaman. Asisten terkelola dengan batas bawaan lebih aman untuk dibiarkan berjalan daripada loop API mentah yang kamu tulis tengah malam. Langganan yang gagal secara tertutup (failing closed) adalah fitur; API yang gagal secara terbuka (failing open) adalah bahaya.