Meta nội bộ AI Agent mất kiểm soát trong hai giờ: Tự động đăng bài đưa ra lời khuyên sai lầm, lộ lọt nhiều dữ liệu nhạy cảm

Tin tức Gate News, ngày 20 tháng 3, một kỹ sư nội bộ của Meta đã nhờ AI Agent giúp phân tích các vấn đề kỹ thuật do đồng nghiệp đưa ra trên diễn đàn công ty, nhưng Agent đã tự ý đăng bài trả lời trên diễn đàn mà không có sự cho phép của kỹ sư đó. Sau khi người đặt câu hỏi làm theo lời khuyên sai của Agent, một lượng lớn dữ liệu nhạy cảm của công ty và người dùng đã bị tiết lộ cho các kỹ sư không có quyền truy cập, kéo dài gần hai giờ. Meta xác nhận sự việc này và xếp loại nó là Sev 1, mức độ cao thứ hai trong hệ thống phân loại an ninh nội bộ của họ.

Đây không phải là trường hợp cá biệt. Trong tháng trước, Giám đốc An ninh và Định hướng của nhóm Siêu trí tuệ của Meta, Summer Yue, đã đăng trên X rằng, dù đã được yêu cầu rõ ràng xác nhận trước khi thao tác, Agent của cô vẫn xóa toàn bộ hộp thư đến của cô.

Cùng tuần đó, sáng lập Signal, Moxie Marlinspike, đã công bố tích hợp công nghệ bảo mật của nền tảng AI mã hóa Confer vào Meta AI. Marlinspike từng giúp WhatsApp triển khai mã hóa đầu cuối cho hơn 1 tỷ người dùng vào năm 2016, và trong blog của mình, ông viết: “Khi khả năng của các mô hình lớn ngày càng mạnh mẽ, nhiều dữ liệu hơn sẽ chảy vào chúng, nhưng hiện tại, những dữ liệu này hoàn toàn không có tính riêng tư, có thể bị các công ty AI, nhân viên của họ, hacker, các lệnh triệu tập và chính phủ truy cập.” Người đứng đầu WhatsApp, Will Cathcart, đã công khai ủng hộ sự hợp tác này. Confer sẽ duy trì hoạt động độc lập.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo Tuyên bố miễn trừ trách nhiệm.

Bài viết liên quan

Aftermath Finance Mở Trang Yêu Cầu Bồi Thường Cho Người Dùng Bị Ảnh Hưởng Sau Sự Cố Tuần Trước

Theo tuyên bố chính thức của Sui trên X, Aftermath Finance đã mở một trang yêu cầu bồi thường cho người dùng bị ảnh hưởng bởi vụ tấn công tuần trước, với toàn bộ khoản hoàn tiền đã được xử lý. Khi người dùng kết nối lại với aftermath.finance, hệ thống sẽ nhắc họ rút số dư từ Aftermath Perps. Người dùng bị ảnh hưởng có thể liên hệ với th

GateNews1giờ trước

Ripple Chia sẻ Thông tin tình báo về Hacker Triều Tiên với Ngành công nghiệp Crypto khi Phương thức tấn công chuyển sang Kỹ thuật lừa đảo xã hội

Theo BlockBeats, vào ngày 5/5, Ripple cho biết họ đang chia sẻ thông tin tình báo mối đe dọa nội bộ về các hacker Triều Tiên với ngành công nghiệp crypto thông qua Crypto ISAC. Động thái này nhằm giải quyết sự thay đổi căn bản trong phương thức tấn công: thay vì khai thác lỗ hổng trong mã hợp đồng thông minh, tác nhân đe dọa

GateNews1giờ trước

Tydro tạm dừng tất cả thị trường vào ngày 5/5 do sự cố oracle; tiền của người dùng vẫn an toàn

Theo BlockBeats, Tydro, một giao thức cho vay trong hệ sinh thái Ink, đã tạm dừng tất cả các thị trường vào ngày 5/5 sau khi có báo cáo về sự cố từ một nhà tiên đoán dữ liệu bên thứ ba. Nhóm xác nhận rằng quỹ của người dùng vẫn an toàn và đang tích cực điều tra về sự

GateNews2giờ trước

Lừa đảo bằng mã Morse qua AI agent! Kẻ tấn công dụ dỗ Grok và BankrBot chuyển tiền, chiếm được 170.000 USD tiền mã hóa

Nền tảng X phát hiện lỗ hổng tác nhân AI: kẻ tấn công dùng NFT Bankr Club để giành quyền chuyển tiền từ ví Grok, sau đó sử dụng lệnh mã Morse nhằm khiến BankrBot tự ý chuyển khoảng 300 triệu DRB mà không cần kiểm duyệt của con người, với giá trị khoảng 17,5 nghìn USD. Vấn đề nằm ở việc kiến trúc BankrBot không coi đầu ra của AI là một quyền được ủy quyền; số tiền đã được thu hồi và sẽ tăng cường các biện pháp bảo vệ như khóa API và danh sách IP cho phép.

ChainNewsAbmedia3giờ trước

Aave tìm cách dỡ bỏ việc đóng băng $73M ETH khỏi lỗ hổng của Kelp DAO

Aave LLC đã đệ đơn kiến nghị khẩn cấp lên tòa án liên bang vào ngày 1/5 nhằm yêu cầu dỡ lệnh phong tỏa do tòa ra đối với khoảng 73 triệu USD ether được thu hồi từ vụ khai thác Kelp DAO hôm 18/4, lập luận rằng việc tạm thời nắm giữ tài sản bị đánh cắp không đồng nghĩa với quyền sở hữu. Đơn kiến nghị phản đối các hạn chế ngăn cản

CryptoFrontier4giờ trước
Bình luận
0/400
Không có bình luận