Workers AI

Что это

Представьте это как торговый автомат для ИИ: вы кладёте запрос, а уже обученная модель возвращает результат, и при этом вам не нужно настраивать собственную машину. Workers AI запускает модели машинного обучения на собственных GPU (graphics processing unit — специализированные чипы, на которых работает ИИ) Cloudflare, доступных вашему Worker через единственную привязку AI (готовое соединение). Вы вызываете env.AI.run("@cf/...model") со своими входными данными и получаете результат — без отдельного сервера инференса (без лишней машины, которая запускает модель), без API-ключей (секретных паролей) к стороннему сервису, без необходимости выделять GPU. Каталог охватывает генерацию текста, эмбеддинги, генерацию изображений, речь и перевод.

Сильные стороны

• Одна привязка — без внешних API-ключей и отдельной инфраструктуры инференса.
• Работает в GPU-сети Cloudflare, рядом с вашим Worker и вашими пользователями.
• Широкий каталог моделей: LLM (large language models — большие языковые модели, ИИ, стоящий за чатом и текстом), эмбеддинги, изображения, аудио и многое другое.
• Оплата по факту использования; бесплатная квота делает прототипирование дешёвым.
• Естественно сочетается с Vectorize для RAG (retrieval-augmented generation — генерация с дополненной выборкой: ИИ дают релевантные факты, которые он может цитировать).

Компромиссы

• Выбор моделей ограничен каталогом Cloudflare, а не всеми моделями на рынке.
• Крупнейшие передовые модели могут быть недоступны; качество варьируется в зависимости от модели.
• Применяются задержки инференса и ограничения частоты запросов, особенно для крупных моделей.
• Для конкретной проприетарной модели вам всё равно придётся обращаться к API её провайдера.

Когда использовать

Используйте Workers AI для инференса внутри приложения, когда вы хотите разместить его рядом с вашей пограничной логикой: функции чата, суммаризация, классификация, эмбеддинги для поиска или генерация изображений — без поддержки собственного GPU-стека.

Подходит для vibe coding

Workers AI убирает большую часть настройки, которую агенту иначе пришлось бы программировать: никакого управления ключами, никакого SDK (software development kit — комплект разработки, готовая библиотека кода) провайдера — только привязка и вызов run. Скажите агенту, какую задачу и модель вы хотите (например, модель эмбеддингов для подачи в Vectorize), чтобы он правильно выбрал из каталога. В примере привязывается AI и запускается текстовая модель.

# wrangler.toml
[ai]
binding = "AI"

// внутри вашего Worker
const out = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "Summarize this in one sentence: ...",
});