Nhà môi giới nhập OpenClaw gây lo ngại! Đài Loan có cần hướng dẫn an toàn nuôi tôm hùm? Ủy ban Quản lý Tài chính đã trả lời

Tác giả: Ariel, Thành phố mã hóa

AI đại lý mang logo con tôm hùm (OpenClaw) đã bùng nổ trên toàn cầu, chính phủ Trung Quốc đã đưa ra “Sổ tay an toàn nuôi tôm hùm” để cảnh báo các rủi ro liên quan. Đại biểu Lại Sĩ Bảo nhận thấy, đã có các công ty chứng khoán trong nước và nhà phân tích thị trường chứng khoán dần dần áp dụng OpenClaw, nếu AI đại lý đặt lệnh sai thì ai sẽ chịu trách nhiệm? Và kêu gọi Ủy ban Chứng khoán đề xuất sổ tay an toàn nuôi tôm hùm dành riêng cho ngành tài chính. Ủy ban Chứng khoán Phùng Kim Long trả lời đại biểu, ông không sử dụng OpenClaw, nhưng nhận thấy hiện tượng này khá phổ biến. Các đơn vị liên quan trong ủy ban đã nghiên cứu các biện pháp ứng phó trong tương lai, để hiểu rõ tình hình sử dụng của các tổ chức tài chính. Phùng Kim Long chỉ ra, ủy ban đã phát hành trước đó 《Hướng dẫn sử dụng AI trong ngành tài chính》, ngành tài chính vốn đã có các cơ chế an ninh mạng và kiểm soát nội bộ nhất định đối với công nghệ mới; nếu công cụ mới này ảnh hưởng đến an toàn hoạt động, sẽ được xem xét và soạn thảo sổ tay an toàn liên quan.

6 điểm chính trong Hướng dẫn sử dụng AI trong ngành tài chính của ủy ban Chứng khoán

• Xây dựng cơ chế quản trị và chịu trách nhiệm: Các tổ chức tài chính phải chịu trách nhiệm về hệ thống AI, chỉ định các quản lý cấp cao giám sát và xây dựng cấu trúc, thực hiện quản lý rủi ro và đào tạo nhân viên.
• Chú trọng công bằng và giá trị lấy con người làm trung tâm: Tránh thiên vị trong thuật toán gây ra bất công, phù hợp với nguyên tắc lấy con người làm trung tâm; kết quả của AI tạo sinh cần được kiểm soát khách quan bởi nhân viên.
• Bảo vệ quyền riêng tư và lợi ích khách hàng: Bảo vệ quyền riêng tư và quản lý dữ liệu khách hàng cẩn thận; khi cung cấp dịch vụ bằng AI, cần tôn trọng quyền lựa chọn của khách hàng và nhắc nhở các phương án thay thế.
• Đảm bảo hệ thống ổn định và an toàn: Phải đảm bảo hệ thống AI ổn định và an toàn để tránh thiệt hại; nếu sử dụng hệ thống AI của bên thứ ba, cần có quản lý rủi ro và giám sát phù hợp.
• Thực hiện minh bạch và khả giải thích: Đảm bảo hoạt động của AI có tính minh bạch và khả năng giải thích; khi AI tương tác trực tiếp với người tiêu dùng, cần chủ động tiết lộ thông tin phù hợp.
• Thúc đẩy phát triển bền vững: Việc ứng dụng AI cần kết hợp nguyên tắc bền vững, giảm bất bình đẳng và bảo vệ môi trường; đồng thời cung cấp đào tạo cho nhân viên để thích ứng với thay đổi, bảo vệ quyền lợi lao động.

Nguồn hình ảnh: Tạo bởi Gemini AI ｜ 6 điểm chính trong Hướng dẫn sử dụng AI trong ngành tài chính của ủy ban Chứng khoán (Sơ đồ AI)

Bộ phận Phát triển số đã phản hồi về vấn đề an ninh mạng của nuôi tôm hùm Về các mối lo ngại về an ninh mạng do AI đại lý mang lại, trưởng bộ phận Phát triển số Linh Ý Kính trong ngày hôm đó đã chỉ rõ, để giải quyết vấn đề an ninh mạng và nâng cao tính tự chủ công nghệ, Đài Loan đang tích cực thúc đẩy AI chủ quyền, đảm bảo các mô hình AI sử dụng bởi chính phủ và các cơ sở hạ tầng quan trọng hoạt động trong nước và dưới sự quản lý của pháp luật, đồng thời đề cập đến nền tảng NemoClaw do Nvidia mới ra mắt, trọng tâm là tăng cường bảo vệ an ninh AI đại lý. Để xây dựng năng lực tính toán riêng của Đài Loan, bộ phận Phát triển số đã nhận được đơn xin đầu tư trung tâm tính toán của Foxconn, và đang thảo luận với Bộ Tài chính, Ủy ban Chứng khoán về việc mở cửa cho ngành bảo hiểm đầu tư vốn, nhằm tránh phụ thuộc hoàn toàn vào các mô hình AI nước ngoài của Đài Loan.

Nội dung “Sổ tay an toàn nuôi tôm hùm” của Trung Quốc nói gì? OpenClaw do kỹ sư người Áo Peter Steinberger phát triển, ban đầu rất nổi tiếng trong giới công nghệ, và hành vi cài đặt, sử dụng OpenClaw gọi là nuôi tôm hùm, gần đây, trào lưu nuôi tôm hùm đã lan sang thị trường Trung Quốc, người dân phổ biến đi nuôi tôm hùm, thậm chí có dịch vụ trả phí để các kỹ sư cài đặt giúp. Về vấn đề này, Bộ An ninh Quốc gia Trung Quốc cũng đã phát hành “Sổ tay nuôi tôm hùm an toàn”, cảnh báo các rủi ro gốc như bị chiếm quyền điều khiển máy chủ, trộm cắp dữ liệu và bị chỉnh sửa nội dung phát ngôn, kêu gọi người dùng hạn chế phạm vi thao tác, và chạy trong môi trường cách ly (như máy ảo chuyên dụng, sandbox).

Có nuôi tôm hùm thì có tháo tôm hùm Dù trào lưu nuôi tôm hùm đang rất thịnh hành, nhưng cộng đồng Trung Quốc đã xuất hiện hiện tượng chuyển từ việc cài đặt điên cuồng sang tháo tôm hùm có trả phí. Báo cáo của BBC dẫn lời các chuyên gia phân tích, lý do của đợt giảm này là do công nghệ của OpenClaw có mức độ khó cao và chi phí vận hành lớn, mỗi thao tác đều cần tiêu tốn vốn để gọi mô hình AI. Ngoài ra, rủi ro an ninh cũng là một mối lo lớn, Trung tâm Ứng cứu Khẩn cấp Internet Quốc gia Trung Quốc chỉ ra, việc sử dụng không đúng cách có thể dẫn đến việc bị trộm cắp hình ảnh, tài khoản thanh toán và các thông tin nhạy cảm khác, thậm chí AI hiểu sai lệnh gây xóa nhầm dữ liệu. Đối với người dùng phổ thông, phần mềm này hiện tại không mang lại nhiều tác dụng thực tế, dẫn đến đợt tháo tôm hùm này.