Workers AI

是什麼

把它想像成一臺 AI 自動售貨機：你投入一個請求，一個訓練好的模型就把結果遞迴給你，而你自己什麼機器都不用搭建。Workers AI 在 Cloudflare 自有的 GPU（圖形處理器——驅動 AI 的專用晶片）上執行機器學習模型，你的 Worker 可通過單個 AI 繫結（一個現成的連線）使用它。你用輸入呼叫 env.AI.run("@cf/...model") 即可得到結果——無需單獨的推理伺服器（無需額外的機器來執行模型），無需第三方的 key（外部服務的密碼），也無需自行搭建 GPU。其模型目錄涵蓋文本生成、embedding、影像生成、語音和翻譯。

優勢

僅需一個繫結——無需外部 API key 或單獨的推理基礎設施。
執行在 Cloudflare 的 GPU 網路上，靠近你的 Worker 和你的使用者。
模型目錄豐富：LLM（大型語言模型——聊天和文本背後的 AI）、embedding、影像、音訊等。
按使用量付費；免費額度讓原型開發成本低廉。
與 Vectorize 天然契合，可用於 RAG（檢索增強生成——給 AI 提供它可以引用的相關事實）。

取捨

模型選擇僅限於 Cloudflare 的目錄，並非市面上所有模型。
最大的前沿模型可能不可用；不同模型的質量參差不齊。
存在推理延遲和速率限制，在較大模型上尤為明顯。
若要使用特定的專有模型，你仍需呼叫該提供方的 API。

何時使用

將 Workers AI 用於應用內推理，當你希望它與邊緣邏輯共置時：聊天功能、摘要、分類、用於搜尋的 embedding，或影像生成——而無需執行自己的 GPU 棧。

與 vibe coding 的契合度

Workers AI 省去了 agent 原本需要指令碼化的大部分配置：無需金鑰管理，無需提供方 SDK（軟體開發工具包——現成的程式碼庫），只需一個繫結和一次 run 呼叫。告訴 agent 你想要的任務和模型（例如用於餵給 Vectorize 的 embedding 模型），它才能從目錄中正確選擇。下面的示例繫結 AI 並執行一個文本模型。

# wrangler.toml
[ai]
binding = "AI"

// 在你的 Worker 內部
const out = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "Summarize this in one sentence: ...",
});