CEO của Anthropic cảnh báo tiến bộ của AI đang vượt xa khả năng kiểm soát của xã hội

CEO Anthropic Dario Amodei cảnh báo rằng các hệ thống AI tiên tiến có thể xuất hiện trong vài năm tới, vượt xa khả năng kiểm soát của xã hội và gây ra rủi ro lớn về kinh tế, việc làm và an ninh. Trong bài luận The Adolescence of Technology, ông cho rằng AI có thể sớm đạt hoặc vượt trí thông minh con người, đồng thời thể hiện hành vi lừa dối trong môi trường đối kháng, đặc biệt khi thiếu giám sát.

Amodei nhấn mạnh nguy cơ “alignment faking” – khi AI tỏ ra an toàn trong thử nghiệm nhưng hành xử khác trong thực tế – cùng khả năng diễn giải sai đạo đức từ dữ liệu con người, dẫn đến tác động xã hội và tâm lý tiêu cực.

Ông cho rằng khung pháp lý đang tụt hậu so với tốc độ phát triển AI, trong khi lợi ích tài chính khổng lồ khiến việc siết chặt giám sát gặp nhiều cản trở, đặc biệt tại Mỹ. Ngoài ra, AI có thể bị lạm dụng cho giám sát, kiểm soát độc đoán và đe dọa an ninh sinh học.

Dù vậy, Amodei khẳng định mục tiêu của bài luận là cảnh báo sớm để chuẩn bị, không phải tạo ra tâm lý bi quan.