Workers AI

Đây là gì

Hãy hình dung nó như một chiếc máy bán hàng tự động dành cho AI: bạn bỏ vào một yêu cầu, và một mô hình đã được huấn luyện sẵn trả lại kết quả cho bạn, mà không cần tự dựng máy móc gì cả. Workers AI chạy các mô hình học máy (machine-learning) trên chính GPU (chip chuyên dụng cung cấp năng lượng cho AI) của Cloudflare, và Worker của bạn truy cập vào chúng chỉ qua một liên kết (binding) AI duy nhất (một kết nối đã được dựng sẵn). Bạn gọi env.AI.run("@cf/...model") với đầu vào của mình và nhận về kết quả — không cần một máy chủ suy luận (inference server) riêng (không cần thêm máy chạy mô hình), không cần khóa API (API key — mật khẩu bí mật) cho bên thứ ba, không cần dựng GPU. Danh mục mô hình trải rộng từ sinh văn bản, embedding (biểu diễn vector), sinh ảnh, giọng nói, cho đến dịch thuật.

Điểm mạnh

• Một liên kết duy nhất — không cần khóa API bên ngoài hay hạ tầng suy luận riêng.
• Chạy trên mạng lưới GPU của Cloudflare, gần với Worker và người dùng của bạn.
• Danh mục mô hình đa dạng: LLM (Large Language Models — mô hình ngôn ngữ lớn, đứng sau các tính năng trò chuyện và văn bản), embedding, hình ảnh, âm thanh, và nhiều hơn nữa.
• Trả theo mức sử dụng; có hạn mức miễn phí giúp việc thử nghiệm ban đầu tốn ít chi phí.
• Kết hợp tự nhiên với Vectorize cho RAG (Retrieval-Augmented Generation — cung cấp cho AI những dữ kiện liên quan để nó có thể trích dẫn).

Đánh đổi

• Lựa chọn mô hình bị giới hạn trong danh mục của Cloudflare, không phải toàn bộ mô hình có trên thị trường.
• Các mô hình tiên tiến nhất (frontier) có thể không có sẵn; chất lượng khác nhau tùy mô hình.
• Có độ trễ suy luận (inference latency) và giới hạn tốc độ (rate limit), đặc biệt với các mô hình lớn hơn.
• Nếu cần một mô hình độc quyền cụ thể, bạn vẫn phải gọi API của nhà cung cấp đó.

Khi nào nên dùng

Dùng Workers AI cho việc suy luận trong ứng dụng, khi bạn muốn nó nằm cùng vị trí với logic biên (edge logic) của mình: tính năng trò chuyện, tóm tắt, phân loại, embedding cho tìm kiếm, hoặc sinh ảnh — mà không cần tự vận hành một dàn GPU riêng.

Phù hợp với vibe coding thế nào

Workers AI loại bỏ phần lớn công đoạn thiết lập mà một agent (tác nhân AI) lẽ ra phải tự viết kịch bản: không cần quản lý khóa, không cần SDK (Software Development Kit — thư viện mã nguồn dựng sẵn) của nhà cung cấp, chỉ cần một liên kết (binding) và một lệnh gọi run. Hãy nói cho agent biết bạn muốn tác vụ nào và mô hình nào (ví dụ: một mô hình embedding để đưa vào Vectorize) để nó chọn đúng từ danh mục. Ví dụ dưới đây liên kết AI và chạy một mô hình văn bản.

# wrangler.toml
[ai]
binding = "AI"

// inside your Worker
const out = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "Summarize this in one sentence: ...",
});