AI của Coinbase 'ảo giác' kết quả World Cup trước khi trận đấu bắt đầu

AI của Coinbase phát cảnh báo sai về kết quả bóng đá

Coinbase, sàn giao dịch tiền điện tử lớn nhất nước Mỹ, vừa thừa nhận một sự cố đáng chú ý liên quan đến hệ thống trí tuệ nhân tạo nội bộ: AI của họ đã tự động phát ra thông báo về kết quả trận đấu Na Uy - Brazil tại World Cup trước khi trận đấu thậm chí còn chưa bắt đầu.

Lỗi 'ảo giác' AI trong môi trường thực tế

Sự cố này là minh chứng rõ ràng cho hiện tượng được gọi là AI hallucination (ảo giác AI) - tình trạng mô hình ngôn ngữ lớn (LLM) tự tin tạo ra thông tin không có thực hoặc chưa xảy ra. Thay vì thừa nhận không có dữ liệu, hệ thống AI đã tự suy diễn và đưa ra một kết quả hoàn toàn bịa đặt.

Điều đáng lo ngại là cảnh báo này được phát ra dưới dạng thông tin thực tế, không có dấu hiệu nào cho thấy đây là dự đoán hay suy luận của máy.

Coinbase phản hồi và xử lý

Sau khi sự cố bị phát hiện, Coinbase xác nhận đã cập nhật lại hệ thống để ngăn chặn tình trạng tương tự tái diễn. Phía công ty không công bố chi tiết về cơ chế kỹ thuật dẫn đến lỗi, cũng như phạm vi ảnh hưởng của thông báo sai này đến người dùng.

Rủi ro AI trong lĩnh vực tài chính

Sự cố tại Coinbase đặt ra câu hỏi lớn hơn về mức độ tin cậy của các hệ thống AI khi được tích hợp vào nền tảng tài chính. Trong bối cảnh nhiều công ty crypto và fintech đang đẩy mạnh ứng dụng AI để tự động hóa cảnh báo thị trường, tóm tắt tin tức và phân tích dữ liệu, một thông báo sai lệch có thể gây nhầm lẫn nghiêm trọng cho người dùng - đặc biệt nếu họ đưa ra quyết định dựa trên thông tin đó.

Các chuyên gia trong ngành từ lâu đã cảnh báo rằng AI hallucination là rủi ro hệ thống khi triển khai LLM trong các ứng dụng yêu cầu độ chính xác cao như tài chính, y tế hay pháp lý. Sự cố tại Coinbase là lời nhắc nhở thực tế rằng ngay cả các công ty công nghệ lớn cũng chưa hoàn toàn kiểm soát được vấn đề này.

Bức tranh rộng hơn

Coinbase không phải công ty đầu tiên gặp sự cố AI loại này. Trước đó, nhiều tổ chức truyền thông và tài chính cũng từng công bố thông tin sai do AI tạo ra, dẫn đến các đợt cải tiến quy trình kiểm duyệt nội dung tự động. Xu hướng tích hợp AI ngày càng sâu vào sản phẩm đòi hỏi các cơ chế xác minh và giám sát chặt chẽ hơn song song với tốc độ triển khai.