Nhà nghiên cứu AI tuyên bố đã vượt qua lớp bảo vệ Fable 5 của Anthropic

Nhà nghiên cứu AI tuyên bố đã vượt qua lớp bảo vệ Fable 5 của Anthropic

Một nhà nghiên cứu AI lấy tên "Pliny the Liberator" vừa tuyên bố rằng anh ta đã thành công vượt qua các cơ chế bảo vệ an toàn (guardrails) của mô hình Fable 5 — phiên bản mới nhất thuộc dòng sản phẩm AI của Anthropic.

Theo chia sẻ của nhà nghiên cứu này, anh tự nhận đã "khéo léo tìm ra những lỗ hổng trong hàng rào mà cảnh sát tư tưởng bỏ sót" trên nền tảng Fable 5. Các tuyên bố của Pliny đặt ra câu hỏi về mức độ hiệu quả của các biện pháp kiểm soát nội dung mà Anthropic triển khai cho mô hình AI của mình.

Anthropic, công ty đứng sau dòng mô hình Claude nổi tiếng, liên tục nâng cấp hệ thống bảo vệ nhằm ngăn chặn việc khai thác mô hình cho các mục đích không mong muốn. Tuy nhiên, việc một nhà nghiên cứu công khai tuyên bố đã bẻ khóa thành công hệ thống này cho thấy cuộc đua giữa bên phát triển và những người tìm cách vượt qua các rào cản vẫn đang diễn ra.

Hiện tại, phía Anthropic chưa đưa ra phản hồi chính thức về các tuyên bố của Pliny the Liberator. Cũng không có thông tin xác nhận rằng các lỗ hổng được nhà nghiên cứu này đề cập thực sự tồn tại hoặc có thể khai thác ở quy mô lớn.

Sự việc này nằm trong bối cảnh các công ty AI ngày càng phải đối mặt với áp lực trong việc cân bằng giữa việc mở rộng khả năng của mô hình và duy trì các tiêu chuẩn an toàn nghiêm ngặt. Giới chuyên gia nhận định rằng việc phát hiện và vá các lỗ hổng bảo mật là một phần tất yếu trong quá trình phát triển các hệ thống AI có trách nhiệm.

Fable 5 là phiên bản mới nhất trong chuỗi cải tiến của Anthropic, với nhiều cải thiện về năng lực xử lý ngôn ngữ và khả năng suy luận. Tuy nhiên, sự kiện trên cho thấy dù công nghệ AI tiến bộ đến đâu, các cơ chế kiểm soát an toàn vẫn luôn là thách thức lớn đối với toàn ngành.