Chatbot "ảo giác" suýt khiến quân đội Mỹ tấn công tàu Trung Quốc

Một pha "ảo giác" của AI suýt nữa đã châm ngòi cho một cuộc khủng hoảng quân sự quốc tế.

Quân đội Mỹ từng lên kế hoạch điều không quân hỗ trợ để chặn và khám xét một tàu chở hàng Trung Quốc ở Trung Đông. Chiến dịch chỉ bị hủy phút chót sau khi giới chức nhận ra báo cáo tình báo dẫn đường cho nó hoàn toàn là sai sự thật. Theo CNN, một chuyên viên phân tích thuộc Bộ tư lệnh Chiến dịch Đặc biệt Mỹ đã dùng chatbot để đọc danh mục hàng hóa của tàu, kết hợp dữ liệu mở và tình báo tín hiệu mật. Con AI này phán sai rằng con tàu đang chở linh kiện cho chương trình vũ khí hạt nhân, khiến một nguồn tin phải thốt lên sai lầm này "suýt nữa thì gây ra chiến tranh".

Vì sao tin này đáng chú ý: AI hallucination (hiện tượng AI bịa thông tin) không còn dừng lại ở việc làm hỏng hồ sơ pháp lý hay bài tập về nhà—nó đã chạm tới các quyết định quốc phòng sinh tử. Bất chấp rủi ro, Bộ Quốc phòng Mỹ hồi tháng 1 vẫn tung ra "chiến lược tăng tốc AI" để nạp thêm dữ liệu quân sự vào các công cụ AI trên toàn bộ các quân binh chủng.

Kiểm tra lại kết quả của AI là thói quen tốt; còn kiểm tra kỹ trước khi điều quân áp sát tàu nước ngoài thì là điều bắt buộc.