Workers AI

O que é

Pense nisso como uma máquina de vendas de IA: você faz um pedido e um modelo já treinado devolve o resultado, sem precisar montar nenhuma máquina própria. O Workers AI executa modelos de aprendizado de máquina nas próprias GPUs da Cloudflare (os chips especializados que dão energia à IA), disponíveis para o seu Worker por meio de um único binding AI (uma conexão pronta). Você chama env.AI.run("@cf/...model") com sua entrada e recebe um resultado — sem servidor de inferência separado (sem máquina extra rodando o modelo), sem chaves de (senhas secretas) para terceiros, sem GPU para configurar. O catálogo abrange geração de texto, embeddings, geração de imagem, voz e tradução.

Pontos fortes

Um único binding — sem chaves de API externas nem infraestrutura de inferência separada.
Roda na rede de GPUs da Cloudflare, perto do seu Worker e dos seus usuários.
Catálogo amplo de modelos: LLMs (Large Language Models — a IA por trás de chat e texto), embeddings, imagem, áudio e mais.
Pagamento por uso; uma cota gratuita torna a prototipagem barata.
Combina naturalmente com o Vectorize para RAG (Retrieval-Augmented Generation — alimentar uma IA com fatos relevantes dos quais ela pode citar).

Contrapartidas

A seleção de modelos é o catálogo da Cloudflare, não todos os modelos do mercado.
Os maiores modelos de fronteira podem não estar disponíveis; a qualidade varia conforme o modelo.
Latência de inferência e limites de taxa se aplicam, especialmente em modelos maiores.
Para um modelo proprietário específico, você ainda precisaria chamar a API daquele provedor.

Quando usar

Use o Workers AI para inferência dentro do app onde você quer que ela fique colocalizada com sua lógica de borda (): recursos de chat, resumo, classificação, embeddings para busca ou geração de imagem — sem rodar sua própria pilha de GPU.

Encaixe no vibe coding

O Workers AI elimina a maior parte da configuração que um agente teria que programar de outra forma: sem gerenciamento de chaves, sem SDK do provedor (Software Development Kit — uma biblioteca de código pronta), apenas um binding e uma chamada run. Diga ao agente qual tarefa e qual modelo você quer (por exemplo, um modelo de embeddings para alimentar o Vectorize) para que ele escolha corretamente no catálogo. O exemplo faz o binding do AI e executa um modelo de texto.

# wrangler.toml
[ai]
binding = "AI"

// inside your Worker
const out = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "Summarize this in one sentence: ...",
});