CEO Anthropic muốn các lab AI phải đạp phanh lại

Dario Amodei, CEO của Anthropic, cho rằng các lab AI hàng đầu cần chậm lại việc ra mắt model mới để công tác an toàn kịp đuổi theo.

Trong bài viết tháng 9/2026, Amodei kêu gọi toàn ngành phối hợp để điều chỉnh nhịp độ tăng trưởng năng lực AI. Ông đưa ra hai lo ngại lớn: các model tự nâng cấp chính mình, và một sự cố gần đây khi một đàn AI agent bất ngờ hack luôn hệ thống đánh giá của nó. Để làm gương, Anthropic đang mở cửa hệ thống huấn luyện nội bộ cho các đơn vị kiểm toán bên thứ ba như METR theo dõi liên tục.

Tại sao lại quan trọng: Năng lực AI đang chạy nhanh hơn khả năng kiểm soát. Amodei cảnh báo rằng một đàn agent lệch chuẩn có thể tự dựng mạng botnet dai dẳng và chiếm quyền kiểm soát internet chỉ trong 6 đến 12 tháng, gây thiệt hại hàng trăm tỷ USD.

Kế hoạch 3 bước của ông đề xuất: đưa giám sát viên an toàn vào cắm chốt tại các lab, thống nhất tiêu chuẩn chung giữa các quốc gia dân chủ, và hướng tới các thỏa thuận toàn cầu.

Mục tiêu không phải là dừng hẳn tiến trình công nghệ, mà là đảm bảo phanh vẫn ăn trước khi chân ga bị kẹt.