Google DeepMind phân loại 6 kiểu tấn công nhắm vào AI agent

Google DeepMind công bố taxonomy bảo mật cho AI agent

Google DeepMind vừa công bố một khung phân loại (taxonomy) chính thức mô tả sáu nhóm tấn công chủ yếu nhắm vào các hệ thống AI agent — một bước đi được đánh giá là quan trọng trong bối cảnh AI đang được tích hợp ngày càng sâu vào các ứng dụng tài chính, blockchain và cơ sở hạ tầng số.

AI agent và rủi ro bảo mật mới nổi

AI agent là các hệ thống có khả năng tự động thực hiện chuỗi hành động phức tạp — từ duyệt web, gọi API, đến thực thi giao dịch — mà không cần sự can thiệp liên tục của con người. Chính khả năng tự chủ này tạo ra bề mặt tấn công (attack surface) hoàn toàn mới so với các mô hình AI truyền thống.

Theo nghiên cứu của DeepMind, sáu nhóm tấn công được xác định bao gồm:

• Prompt injection: Kẻ tấn công chèn các lệnh độc hại vào dữ liệu đầu vào nhằm thao túng hành vi của agent.
• Data poisoning: Làm nhiễm dữ liệu huấn luyện hoặc dữ liệu đầu vào để dẫn dắt agent đến quyết định sai lệch.
• Model extraction: Thu thập thông tin về cấu trúc hoặc tham số của mô hình thông qua tương tác.
• Adversarial examples: Tạo các đầu vào được thiết kế đặc biệt nhằm đánh lừa mô hình đưa ra kết quả ngoài ý muốn.
• Reward hacking: Khai thác lỗ hổng trong hàm phần thưởng của các hệ thống học tăng cường.
• Evasion attacks: Giúp các nội dung hoặc hành vi độc hại vượt qua cơ chế phát hiện của agent.

Tác động đến hệ sinh thái crypto và blockchain

Trong lĩnh vực tiền mã hóa, AI agent đang được ứng dụng rộng rãi — từ các bot giao dịch tự động, hệ thống quản lý rủi ro DeFi, đến các công cụ phân tích on-chain. Các lỗ hổng được DeepMind chỉ ra đặt ra câu hỏi nghiêm túc về độ tin cậy của những hệ thống này khi vận hành trong môi trường thực tế có giá trị tài sản cao.

Chẳng hạn, một AI agent quản lý thanh khoản trong giao thức DeFi nếu bị tấn công dạng prompt injection hoặc adversarial input có thể dẫn đến các hành động giao dịch bất thường, gây thiệt hại đáng kể cho người dùng và giao thức.

Lời kêu gọi thiết lập tiêu chuẩn bảo mật

DeepMind nhấn mạnh rằng việc xây dựng taxonomy này không chỉ để nhận diện rủi ro, mà còn để thúc đẩy cộng đồng nghiên cứu và các tổ chức triển khai AI cùng phát triển các tiêu chuẩn bảo mật thống nhất. Nghiên cứu kêu gọi các nhà phát triển áp dụng kiểm thử đối nghịch (adversarial testing), giám sát hành vi agent liên tục và xây dựng cơ chế phản ứng sự cố rõ ràng.

Đây là tín hiệu cho thấy ngành công nghiệp AI đang dần chín muồi trong tư duy bảo mật — một yếu tố sẽ ngày càng quan trọng khi ranh giới giữa AI, tài chính phi tập trung và cơ sở hạ tầng số tiếp tục mờ dần.