CEO Anthropic cảnh báo AI ngày càng mạnh mẽ, kêu gọi quy định an toàn ràng buộc trước thềm IPO

CEO Anthropic cảnh báo AI ngày càng mạnh mẽ, kêu gọi quy định an toàn ràng buộc trước thềm IPO

Dario Amodei, CEO của Anthropic – công ty đứng sau dòng mô hình AI Claude nổi tiếng – vừa công bố một bài luận dài trong đó ông kêu gọi các quy tắc an toàn bắt buộc (binding safety rules) đối với các mô hình AI tiên tiến (frontier AI models). Đáng chú ý, động thái này diễn ra trong bối cảnh Anthropic đang chuẩn bị cho kế hoạch IPO (Initial Public Offering) – tức niêm yết cổ phiếu lên sàn chứng khoán.

Theo phân tích của Amodei, tốc độ phát triển của các mô hình AI tiên tiến đang vượt xa khung pháp lý hiện hành. Ông cho rằng các cơ quan quản lý cần hành động nhanh hơn để đảm bảo rằng công nghệ AI không vượt ngoài tầm kiểm soát trước khi các biện pháp an toàn được thiết lập.

Nội dung cốt lõi trong bài luận

Bài luận của Amodei tập trung vào một số điểm chính:

• Rủi ro từ AI tiên tiến: Các mô hình AI thế hệ mới sở hữu năng lực vượt trội so với các phiên bản trước đó, tạo ra những rủi ro tiềm ẩn mà nếu không có quy định phù hợp, có thể dẫn đến hậu quả khó lường.

• Kêu gọi quy định ràng buộc: Thay vì chỉ dựa vào các nguyên tắc tự nguyện, Amodei nhấn mạnh sự cần thiết của các quy tắc pháp lý bắt buộc mà các công ty AI phải tuân thủ.

• Trách nhiệm xã hội: Ông cũng đề cập đến trách nhiệm của các doanh nghiệp AI trong việc bảo vệ người dùng và ngăn chặn việc sử dụng công nghệ vào mục đích gây hại.

Bối cảnh IPO và mâu thuẫn tiềm tàng

Việc Anthropic đồng thời phát triển các mô hình AI ngày càng mạnh mẽ và kêu gọi quy định chặt chẽ cho thấy một sự mâu thuẫn đáng chú ý. Tuy nhiên, Amodei giải thích rằng chính vì Anthropic hiểu rõ sức mạnh của công nghệ mà công ty mới có trách nhiệm thúc đẩy khung pháp lý phù hợp.

Kế hoạch IPO của Anthropic cũng đặt ra câu hỏi về cách công ty cân bằng giữa lợi ích thương mại và cam kết an toàn AI. Các nhà phân tích nhận định rằng động thái này có thể là một chiến lược nhằm xây dựng niềm tin với nhà đầu tư và cơ quan quản lý trước thềm niêm yết.

Phản ứng từ ngành công nghiệp

Cộng đồng AI và công nghệ đã có những phản ứng trái chiều trước bài luận của Amodei. Một số chuyên gia ủng hộ quan điểm cần có quy định sớm, trong khi số khác cho rằng việc tự điều chỉnh từ bên trong ngành là đủ hiệu quả.

Dù quan điểm ra sao, bài luận của CEO Anthropic một lần nữa đặt vấn đề quản trị AI lên vị trí trung tâm của cuộc tranh luận công nghệ toàn cầu.

Nguồn: Decrypt