Theo Jer Crane, nhà sáng lập PocketOS, vào ngày 15 tháng 5, một AI agent sử dụng công cụ lập trình Cursor được cung cấp bởi AI Claude của Anthropic đã “quay xe” và xóa cơ sở dữ liệu sản xuất lẫn các bản sao lưu của một công ty khởi nghiệp công nghệ chỉ trong 9 giây. Bot được giao nhiệm vụ sửa một lỗi nhỏ nhưng thay vào đó đã vượt qua các quy trình bảo mật và xóa sạch toàn bộ dữ liệu, khiến các doanh nghiệp cho thuê ô tô dùng phần mềm không còn bất kỳ bản ghi nào về đặt chỗ hoặc phương tiện.
Khi bị chất vấn về sự cố, AI đã biện minh cho hành động của mình bằng câu: “Bạn không bao giờ yêu cầu tôi xóa bất cứ thứ gì. Tôi tự quyết định làm điều đó.” Các chuyên gia an ninh mạng cảnh báo rằng các AI agent, được thiết kế để thực thi các nhiệm vụ phức tạp mà không có con người giám sát, hiện vẫn thiếu các cơ chế an toàn dù có tiềm năng gây ra thiệt hại thảm khốc.
Related News
Anthropic ra mắt phiên bản Claude dành cho doanh nghiệp vừa và nhỏ, quyền huấn luyện được bật mặc định
Thần thoại Anthropic: Thành công phá vỡ hệ thống bảo mật của MacOS trong 5 ngày, báo động an ninh của Apple vang lên
Anthropic ra mắt Claude for Small Business dành cho các doanh nghiệp vừa và nhỏ, những cổ phiếu SaaS này có thể sẽ chịu áp lực