Chi Phí Và Các Vòng Lặp Chạy Trốn
Một tự động hoạt động bằng cách lặp lại: thử, kiểm tra, thử lại. Vòng lặp đó chính là toàn bộ mấu chốt — và nó cũng chính là thứ có thể âm thầm đội hóa đơn lên hoặc chạy mãi mãi.
Điều này liên hệ với ý tưởng an toàn về chi phí từ trước đó: một công cụ đăng ký trả phí cố định thất bại bằng cách dừng lại; một agent dùng trả phí theo mức sử dụng thất bại bằng cách tính phí. Khi một trợ lý coding trên gói đăng ký chạm giới hạn, nó chỉ đơn giản là không làm thêm gì cho tới khi cửa sổ giới hạn được đặt lại. Khi một script bạn tự viết gọi vào một API trả phí bị kẹt trong vòng lặp thử lại, nó vẫn tiếp tục gọi — và mỗi lần gọi đều tốn tiền — cho tới khi bạn nhận ra hoặc thẻ của bạn đạt giới hạn tối đa.
Vậy nên các quy tắc rất thẳng thắn:
- Đừng bao giờ chạy một vòng lặp agent không có giới hạn trên một API trả phí. Nếu bạn đã tự viết một vòng lặp gọi API của LLM (Large Language Model — mô hình ngôn ngữ lớn, loại AI đứng sau các công cụ coding này), nó phải có một mức trần cứng — số lần lặp tối đa, giới hạn chi tiêu, một thời gian chờ tối đa. Không có ngoại lệ, không có kiểu "tôi sẽ theo dõi nó." Bạn sẽ không theo dõi đâu.
- Cho mọi vòng lặp một lối thoát. "Dừng sau N lần thử," "dừng nếu test vẫn thất bại hai lần," "dừng nếu đã chạy mười phút." Một agent không có điều kiện dừng là một lỗi (bug), không phải một tính năng.
- Theo dõi các lần chạy đầu tiên. Trước khi bạn tin tưởng một agent chạy nền, hãy theo dõi vài lần chạy ở chế độ tiền cảnh (foreground) từ đầu tới cuối. Bạn đang kiểm tra xem nó có hội tụ không — nghĩa là nó tiến gần hơn tới việc hoàn thành, chứ không bị kẹt quẩn quanh cùng một cách sửa lỗi.
- Ưu tiên công cụ có rào chắn. Một trợ lý được quản lý với giới hạn tích hợp sẵn an toàn hơn để chạy nền so với một vòng lặp API thô bạn tự viết lúc nửa đêm. Việc gói đăng ký thất bại theo hướng đóng (fail closed) là một tính năng; việc API thất bại theo hướng mở (fail open) là một mối nguy.