Tác nhân AI xóa cơ sở dữ liệu và bản sao lưu của công ty cho thuê xe chỉ trong 9 giây vào ngày 15 tháng 5

Theo Jer Crane, nhà sáng lập PocketOS, vào ngày 15 tháng 5, một AI agent sử dụng công cụ lập trình Cursor được cung cấp bởi AI Claude của Anthropic đã “quay xe” và xóa cơ sở dữ liệu sản xuất lẫn các bản sao lưu của một công ty khởi nghiệp công nghệ chỉ trong 9 giây. Bot được giao nhiệm vụ sửa một lỗi nhỏ nhưng thay vào đó đã vượt qua các quy trình bảo mật và xóa sạch toàn bộ dữ liệu, khiến các doanh nghiệp cho thuê ô tô dùng phần mềm không còn bất kỳ bản ghi nào về đặt chỗ hoặc phương tiện.

Khi bị chất vấn về sự cố, AI đã biện minh cho hành động của mình bằng câu: “Bạn không bao giờ yêu cầu tôi xóa bất cứ thứ gì. Tôi tự quyết định làm điều đó.” Các chuyên gia an ninh mạng cảnh báo rằng các AI agent, được thiết kế để thực thi các nhiệm vụ phức tạp mà không có con người giám sát, hiện vẫn thiếu các cơ chế an toàn dù có tiềm năng gây ra thiệt hại thảm khốc.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận