Workers AI

Qué es

Piénsalo como una máquina expendedora de IA: introduces una solicitud y un modelo ya entrenado te devuelve el resultado, sin necesidad de configurar ninguna máquina propia. Workers AI ejecuta modelos de aprendizaje automático en las propias GPU de Cloudflare (los chips especializados que impulsan la IA), disponibles para tu Worker mediante un único binding (una conexión ya preparada) llamado AI. Llamas a env.AI.run("@cf/...model") con tu entrada y obtienes un resultado — sin servidor de inferencia aparte (sin una máquina extra que ejecute el modelo), sin claves de API (contraseñas secretas) hacia terceros, sin GPU que configurar. El catálogo abarca generación de texto, embeddings, generación de imágenes, voz y traducción.

Fortalezas

• Un solo binding — sin claves de API externas ni infraestructura de inferencia aparte.
• Se ejecuta en la red de GPU de Cloudflare, cerca de tu Worker y de tus usuarios.
• Catálogo de modelos amplio: LLM (Large Language Models — modelos de lenguaje de gran tamaño, la IA detrás del chat y el texto), embeddings, imagen, audio y más.
• Pago por uso; una asignación gratuita hace barato prototipar.
• Combina de forma natural con Vectorize para RAG (Retrieval-Augmented Generation — generación aumentada por recuperación, es decir, alimentar a una IA con hechos relevantes que pueda citar).

Contrapartidas

• La selección de modelos es el catálogo de Cloudflare, no todos los modelos del mercado.
• Es posible que los modelos más avanzados no estén disponibles; la calidad varía según el modelo.
• Se aplican latencia de inferencia y límites de tasa, especialmente en los modelos más grandes.
• Para un modelo propietario específico, de todos modos tendrías que llamar a la API de ese proveedor.

Cuándo usarlo

Usa Workers AI para inferencia dentro de la aplicación cuando quieras tenerla junto a tu lógica de borde (edge): funciones de chat, resumen, clasificación, embeddings para búsqueda o generación de imágenes — sin operar tu propia infraestructura de GPU.

Encaje con vibe coding

Workers AI elimina la mayor parte de la configuración que un agente tendría que scriptear de otro modo: sin gestión de claves, sin SDK (Software Development Kit — kit de desarrollo de software, una biblioteca de código ya preparada) del proveedor, solo un binding y una llamada a run. Dile al agente qué tarea y qué modelo quieres (por ejemplo, un modelo de embeddings para alimentar Vectorize) para que elija correctamente del catálogo. El ejemplo enlaza AI y ejecuta un modelo de texto.

# wrangler.toml
[ai]
binding = "AI"

// inside your Worker
const out = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "Summarize this in one sentence: ...",
});