Rate limit และกับดักบิลช็อก
มีอีกสองเรื่องที่เมนูไม่ได้ป่าวประกาศ แต่มันจะกัดคุณแน่ๆ
(การจำกัดอัตราคำขอ) จะจำกัดจำนวนคำขอที่คุณส่งได้ในช่วงเวลาหนึ่ง — เช่น 100 ครั้งต่อนาที ถ้าเกินขีดจำกัด คุณจะถูกปฏิเสธด้วย error 429 Too Many Requests จนกว่าคุณจะช้าลง สิ่งนี้มีไว้เพื่อป้องกันไม่ให้ลูกค้าคนหนึ่งถล่มบริการจนล่ม กับดักคือ: โค้ดที่ AI เขียนมักจะเรียก API ในลูปโดยไม่มีการหยุดพัก ทำให้เกินขีดจำกัดในพริบตา ถ้าฟีเจอร์หนึ่งทำงานได้กับข้อมูลชิ้นเดียว แต่พังเมื่อรันกับข้อมูลเป็นพันชิ้น rate limit คือผู้ต้องสงสัยอันดับแรก
API แบบวัดปริมาณและมีค่าใช้จ่าย API หลายตัวเรียกเก็บเงินต่อคำขอ — เศษเสี้ยวของเซ็นต์ต่อครั้ง นั่นไม่มีความหมายอะไรสำหรับการเรียกไม่กี่ครั้ง แต่จะกลายเป็นบิลจริงเมื่อบางอย่างวนลูปไม่หยุด เรื่องสยองขวัญคลาสสิก: บั๊กหนึ่งพยายามเรียกซ้ำการเรียกที่เสียเงินซึ่งล้มเหลวไม่มีที่สิ้นสุด หรือฟอร์มสาธารณะปล่อยให้คนแปลกหน้าสั่งการเรียกที่เสียเงินได้ แล้วคุณก็ตื่นมาพบใบแจ้งหนี้สี่หลัก ป้องกันตัวเองด้วยวิธีนี้:
- อ่านค่าบริการ ก่อน ที่จะเชื่อมต่อ API ที่เสียเงิน รู้ต้นทุนต่อการเรียกหนึ่งครั้ง
- ตั้ง เพดานค่าใช้จ่ายหรือการแจ้งเตือนงบประมาณ ในแดชบอร์ดของผู้ให้บริการถ้ามีตัวเลือกนี้ ส่วนใหญ่มักจะมี
- ระแวงโค้ดใดๆ ที่เรียก API เสียเงินภายในลูปหรือทุกครั้งที่โหลดหน้าเว็บ