Workers AI

Apa itu ini

Bayangkan seperti mesin penjual otomatis untuk AI: kamu memasukkan permintaan, dan sebuah model yang sudah terlatih langsung mengembalikan hasilnya, tanpa kamu perlu menyiapkan mesin sendiri. Workers AI menjalankan model machine-learning (pembelajaran mesin) di atas GPU (Graphics Processing Unit — chip khusus yang menjadi tenaga penggerak AI) milik Cloudflare sendiri, dan tersedia untuk Worker kamu lewat satu AI binding (koneksi siap pakai) saja. Kamu memanggil env.AI.run("@cf/...model") dengan input kamu, lalu mendapatkan hasilnya — tanpa perlu server inferensi terpisah (mesin tambahan yang menjalankan model), tanpa key (kata sandi rahasia) ke pihak ketiga, dan tanpa perlu menyiapkan GPU sendiri. Katalognya mencakup pembuatan teks, embeddings (representasi angka dari makna teks), pembuatan gambar, suara, dan terjemahan.

Kelebihan

Satu binding saja — tidak perlu API key eksternal atau infrastruktur inferensi terpisah.
Berjalan di jaringan GPU milik Cloudflare, dekat dengan Worker kamu dan pengguna kamu.
Katalog model yang luas: LLM (Large Language Model — kecerdasan buatan di balik chat dan teks), embeddings, gambar, audio, dan lainnya.
Bayar sesuai pemakaian; ada alokasi gratis yang membuat proses prototyping jadi murah.
Cocok dipadukan dengan Vectorize untuk RAG (Retrieval-Augmented Generation — memberi AI fakta relevan yang bisa dikutipnya).

Kompromi yang harus diterima

Pilihan model terbatas pada katalog Cloudflare, bukan semua model yang ada di pasaran.
Model-model paling mutakhir (frontier) mungkin belum tersedia; kualitasnya bervariasi antar model.
Ada latensi inferensi dan batas laju () yang berlaku, terutama pada model yang lebih besar.
Untuk model milik penyedia tertentu (proprietary), kamu tetap harus memanggil API dari penyedia itu sendiri.

Kapan menggunakannya

Gunakan Workers AI untuk inferensi dalam aplikasi ketika kamu ingin prosesnya berada sedekat mungkin dengan logika di (jaringan tepi) kamu: fitur chat, peringkasan, klasifikasi, embeddings untuk pencarian, atau pembuatan gambar — semuanya tanpa perlu menjalankan tumpukan (stack) GPU milik sendiri.

Kecocokan dengan vibe coding

Workers AI menghilangkan sebagian besar proses setup yang biasanya harus ditulis sendiri oleh sebuah : tidak ada manajemen key, tidak ada SDK (Software Development Kit — pustaka kode siap pakai) dari penyedia, cukup satu binding dan satu panggilan run. Beri tahu agent tugas dan model mana yang kamu inginkan (misalnya model embeddings untuk memberi input ke Vectorize) supaya ia memilih dari katalog dengan tepat. Contoh berikut mengikat (bind) AI dan menjalankan sebuah model teks.

# wrangler.toml
[ai]
binding = "AI"

// inside your Worker
const out = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
  prompt: "Summarize this in one sentence: ...",
});