成本安全:CLI vs API
一張賬單就能毀掉一個專案,而它很少來自託管。它來自一個按量計費的 AI 。你為日常寫程式碼而搭建好的工具——Claude Code、Cursor 之類——通常是按固定費率訂閱的:多發一條 prompt 的成本實際上為零。可一旦你的應用去呼叫原始的 AI API 或 SDK(SDK 即軟體開發工具包,是服務商提供的、預先打包好的程式碼庫),經濟模型就翻轉了:你是按 token、按請求計費的,沒有上限。一個有 bug 的重試、一個無界限的批處理任務,或一個陷入迴圈的 agent,都能在一夜之間悄悄地把 $0 的閒置賬單變成一筆四位數的意外。這就是 "bill shock",也是單打獨鬥的構建者最常見的栽跟頭方式。
在任何付費 API 上線之前,先給它套上籠子:
- 在提供商的控制台裡設定一個硬性消費上限——一個真正的天花板,而不只是一封郵件提醒。
- **開發時優先用按固定費率的 ;**把按量計費的 API 留給那個真正需要它的生產功能。
- 對你自己的呼叫做限流——限制併發數和每分鐘請求數——並在頭幾天盯緊用量面板。
- 批次工作用便宜/小型的模型,並先在極小的輸入上測試(一條記錄,而不是整張表)。
- **絕不上線一個呼叫付費 API 的、不帶節流的迴圈。**給每個迴圈都設上界。
從一開始就把它定為規矩:每一個付費 API 都有一個硬性上限和一個節流器。