Cloudflare ra mắt Clef giúp AI đưa ra quyết định nhanh hơn

Cloudflare vừa nhảy vào mảng mô hình ra quyết định (decision model) với Clef — bộ mô hình mã nguồn mở, độ trễ thấp chuyên dùng để phân loại và điều hướng dữ liệu.

Cloudflare vừa phát hành Clef và Clef-flash theo giấy phép Apache 2.0 trên Hugging Face, đồng thời tích hợp sẵn lên Workers AI. Thay vì sinh văn bản như LLM thông thường, các mô hình này trả về xác suất dạng chuẩn (typed probabilities) để đưa ra quyết định nhanh trong quy trình xử lý — như điều hướng ticket hỗ trợ hay quét dữ liệu đe doạ. Cloudflare cũng tung ra một nền tảng học tăng cường (reinforcement learning) để dev tự fine-tune Clef cho từng nhu cầu riêng.

Tại sao chuyện này lại quan trọng: Dùng LLM thông thường để xử lý mấy logic ngầm đơn giản thì vừa chậm vừa tốn tiền. Trong bài test phân loại tên miền của Cloudflare, Clef mất 2,2 giây để xử lý và gán nhãn website, so với 4,7 giây của một LLM thông thường. Với khung ngữ cảnh (context window) 64k, có hỗ trợ xử lý hình ảnh (vision), cùng độ trễ trung vị giảm xuống còn 38,8 ms trên Clef-flash, các AI agent giờ đã có một luồng xử lý tốc độ cao hơn rất nhiều.

Tóm lại là: bạn có thể tải bộ trọng số (open weights) về tự chạy máy nhà hoặc dùng thử trực tiếp trên Cloudflare Workers AI.

Sắp tới khả năng cao sẽ có thêm nhiều công ty hạ tầng tung ra các mô hình ra quyết định nhỏ gọn, chuyên biệt như thế này, vì các quy trình AI agent đang ưu tiên tốc độ hơn là khả năng viết lách sáng tạo.