ChatGPT bị kiện vì tư vấn y tế sai, dấy lên tranh luận về trách nhiệm pháp lý của AI

ChatGPT bị cáo buộc đưa ra lời khuyên y tế nguy hiểm

Một vụ kiện mới nhắm vào OpenAI đang thu hút sự chú ý của giới công nghệ và pháp lý khi một người dùng cáo buộc rằng chatbot ChatGPT đã cung cấp tư vấn y tế sai lệch, dẫn đến tình trạng nguy kịch đến tính mạng của anh.

Đây không phải lần đầu tiên các mô hình ngôn ngữ lớn (LLM) bị chỉ trích vì xu hướng "ảo giác" — tức là tự tin đưa ra thông tin không chính xác — nhưng vụ việc lần này leo thang lên mức độ nghiêm trọng hơn khi liên quan trực tiếp đến sức khỏe con người.

Câu hỏi về trách nhiệm pháp lý của AI

Vụ kiện đặt ra một câu hỏi pháp lý trọng tâm: ai chịu trách nhiệm khi AI gây hại? Hiện tại, hầu hết các điều khoản dịch vụ của các công ty AI đều có điều khoản miễn trừ trách nhiệm rõ ràng, nhưng các hệ thống pháp luật trên thế giới — đặc biệt tại Mỹ và EU — vẫn chưa có khung pháp lý thống nhất để xử lý các tình huống như vậy.

Theo các nhà phân tích pháp lý, nếu vụ kiện này thành công, nó có thể tạo ra tiền lệ pháp lý buộc các công ty AI phải chịu trách nhiệm cao hơn đối với đầu ra trong các lĩnh vực nhạy cảm như y tế và tài chính.

Tác động tiềm tàng đến ngành AI và thị trường

Kết quả của các vụ kiện liên quan đến trách nhiệm AI được cho là có thể định hình lại toàn bộ môi trường pháp lý điều chỉnh việc phát triển và triển khai AI, đặc biệt trong hai lĩnh vực rủi ro cao:

• Y tế: Các công cụ chẩn đoán, tư vấn sức khỏe dựa trên AI có thể phải đối mặt với yêu cầu kiểm định nghiêm ngặt hơn.
• Tài chính: Các nền tảng sử dụng AI để tư vấn danh mục, phân tích thị trường — bao gồm cả không gian DeFi và crypto — cũng có thể nằm trong tầm ngắm của cơ quan quản lý.

Trong bối cảnh ngành crypto đang tích hợp ngày càng nhiều công cụ AI vào các giao thức DeFi, công cụ phân tích on-chain và các nền tảng giao dịch tự động, diễn biến pháp lý này là tín hiệu đáng theo dõi.

Bối cảnh rộng hơn

Vụ việc xảy ra trong giai đoạn mà các nhà lập pháp tại nhiều quốc gia đang tích cực soạn thảo luật quản lý AI. EU AI Act — bộ luật quản lý AI toàn diện đầu tiên trên thế giới — đã phân loại các ứng dụng AI trong y tế là "rủi ro cao" và áp đặt các yêu cầu nghiêm ngặt về minh bạch và kiểm soát con người.

Tại Mỹ, dù chưa có luật liên bang thống nhất, các vụ kiện dân sự như trường hợp này có thể đóng vai trò là động lực thúc đẩy lập pháp nhanh hơn.

Theo nhận định của nhiều chuyên gia trong ngành, câu hỏi về trách nhiệm pháp lý của AI sẽ là một trong những vấn đề định hình quan trọng nhất đối với tương lai phát triển công nghệ này trong thập kỷ tới.