ผู้เขียน: Ariel เมืองคริปโต
ตัวแทน AI ที่มีโลโก้เป็นกุ้งล็อบสเตอร์ (AI Agent) OpenClaw ได้รับความนิยมอย่างแพร่หลายทั่วโลก รัฐบาลจีนได้ออก “คู่มือความปลอดภัยในการเลี้ยงกุ้งล็อบสเตอร์” เพื่อเตือนความเสี่ยงที่เกี่ยวข้อง ส.ส. ไหล ซือเป่า ได้สังเกตว่า มีบริษัทหลักทรัพย์และนักวิเคราะห์ตลาดหุ้นในประเทศเริ่มนำ OpenClaw มาใช้มากขึ้น หากตัวแทน AI สั่งซื้อผิดพลาด ใครจะรับผิดชอบ? จึงเรียกร้องให้คณะกรรมการบริหารด้านการเงินออกคู่มือความปลอดภัยสำหรับอุตสาหกรรมการเงินโดยเฉพาะ คณะกรรมการบริหารด้านการเงิน (FSC) ตอบสนองต่อ ส.ส. ไหล โดยระบุว่า ตนเองไม่ได้ใช้ OpenClaw แต่สังเกตเห็นปรากฏการณ์นี้อย่างแพร่หลาย หน่วยงานที่เกี่ยวข้องใน FSC กำลังศึกษามาตรการรับมือในอนาคต เพื่อเข้าใจการใช้งานของสถาบันการเงิน
พีอีง จินหลง กล่าวว่าก่อนหน้านี้ FSC ได้ออก “แนวทางการใช้ AI ในอุตสาหกรรมการเงิน” แล้ว อุตสาหกรรมการเงินมีระบบความปลอดภัยและกลไกควบคุมภายในที่ดีอยู่แล้ว หากเครื่องมือใหม่เหล่านี้ส่งผลต่อความปลอดภัยในการดำเนินงาน ก็จะอยู่ในขอบเขตการตรวจสอบและจัดทำคู่มือความปลอดภัยที่เกี่ยวข้อง
6 ประเด็นสำคัญของแนวทางการใช้ AI ในอุตสาหกรรมการเงินของ FSC
- สร้างกลไกการกำกับดูแลและความรับผิดชอบ: สถาบันการเงินควรรับผิดชอบต่อระบบ AI แต่งตั้งผู้บริหารระดับสูงดูแลและสร้างโครงสร้าง จัดการความเสี่ยงและฝึกอบรมบุคลากร
- ให้ความสำคัญกับความเป็นธรรมและมนุษย์เป็นศูนย์กลาง: ควรหลีกเลี่ยงอคติของอัลกอริทึมที่อาจสร้างความไม่เป็นธรรม สอดคล้องกับหลักมนุษย์เป็นศูนย์กลาง; ผลลัพธ์ของ AI สร้างสรรค์ต้องได้รับการควบคุมความเสี่ยงโดยบุคลากร
- คุ้มครองความเป็นส่วนตัวและสิทธิของลูกค้า: ต้องปกป้องความเป็นส่วนตัวและจัดการข้อมูลลูกค้าอย่างเหมาะสม เมื่อให้บริการด้วย AI ต้องเคารพสิทธิเลือกของลูกค้าและแจ้งทางเลือกอื่น
- รับรองความเสถียรและความปลอดภัยของระบบ: ต้องมั่นใจว่า AI มีความเสถียรและปลอดภัยเพื่อป้องกันความเสียหาย หากใช้ระบบ AI ของบุคคลที่สาม ควรมีการบริหารความเสี่ยงและการกำกับดูแลที่เหมาะสม
- ดำเนินการโปร่งใสและสามารถอธิบายได้: ให้แน่ใจว่าการทำงานของ AI มีความโปร่งใสและสามารถอธิบายได้ เมื่อใช้งาน AI ในการสื่อสารโดยตรงกับผู้บริโภค ควรเปิดเผยข้อมูลอย่างเหมาะสม
- ส่งเสริมการพัฒนาที่ยั่งยืน: การใช้งาน AI ควรรวมหลักการความยั่งยืน ลดความไม่เท่าเทียมและรักษาสิ่งแวดล้อม นอกจากนี้ ควรจัดฝึกอบรมพนักงานเพื่อปรับตัวกับการเปลี่ยนแปลงและรักษาสิทธิในงาน
ที่มา: Gemini AI สร้างภาพ ｜ 6 ประเด็นสำคัญของแนวทางการใช้ AI ในอุตสาหกรรมการเงิน (ภาพแสดงแนวคิด AI)
ฝ่ายพัฒนาข้อมูลได้ตอบสนองต่อปัญหาความปลอดภัยในการเลี้ยงกุ้งล็อบสเตอร์
เกี่ยวกับความกังวลด้านความปลอดภัยของ AI ตัวแทนในวันเดียวกัน หวัง ยี่จิ่ง ผู้อำนวยการฝ่ายพัฒนาข้อมูล กล่าวว่า เพื่อแก้ไขปัญหาความปลอดภัยและเสริมสร้างความเป็นอิสระด้านเทคโนโลยี ไต้หวันกำลังผลักดัน AI อธิปไตยอย่างแข็งขัน เพื่อให้แน่ใจว่าโมเดล AI ที่ใช้ในรัฐบาลและโครงสร้างพื้นฐานสำคัญดำเนินการในประเทศและอยู่ภายใต้กฎหมาย พร้อมกล่าวถึงแพลตฟอร์ม NemoClaw ที่ Nvidia เปิดตัวเมื่อเร็ว ๆ นี้ ซึ่งเน้นเสริมความปลอดภัยของตัวแทน AI
เพื่อสร้างพลังการคำนวณเฉพาะของไต้หวัน ฝ่ายพัฒนาข้อมูลได้รับคำร้องขอจาก Hon Hai ในการลงทุนศูนย์พลังการคำนวณ และกำลังหารือกับกระทรวงการคลังและ FSC เพื่อเปิดให้ประกันภัยลงทุน เพื่อป้องกันไม่ให้โมเดล AI ของไต้หวันพึ่งพาต่างประเทศทั้งหมด
คู่มือความปลอดภัยในการเลี้ยงกุ้งล็อบสเตอร์ของจีนพูดอะไรบ้าง?
OpenClaw พัฒนาโดยวิศวกรชาวออสเตรีย Peter Steinberger เริ่มเป็นที่นิยมในวงการเทคโนโลยี การติดตั้งและใช้งาน OpenClaw เรียกว่าการเลี้ยงกุ้งล็อบสเตอร์ (養龍蝦) ช่วงหลังความนิยมนี้ก็แพร่เข้าสู่ตลาดจีน ประชาชนทั่วไปก็เริ่มเลี้ยงกุ้งล็อบสเตอร์ และมีบริการติดตั้งโดยวิศวกรที่คิดค่าบริการ
ในเรื่องนี้ กระทรวงความมั่นคงแห่งชาติจีนได้ออกคู่มือความปลอดภัยในการเลี้ยงกุ้งล็อบสเตอร์ เตือนว่าการใช้ OpenClaw มีความเสี่ยงเช่น การถูกแฮ็กเครื่องหลัก ขโมยข้อมูล และการแก้ไขข้อความ ซึ่งเป็นความเสี่ยงตามธรรมชาติ เรียกร้องให้ผู้ใช้จำกัดขอบเขตการใช้งานอย่างเข้มงวด และควรใช้งานในสภาพแวดล้อมแยกต่างหาก เช่น เครื่องเสมือนหรือซาโบ้ด
มีการเลี้ยงกุ้งล็อบสเตอร์ก็ต้องมีการถอนกุ้งล็อบสเตอร์
แม้ว่าความนิยมในการเลี้ยงกุ้งล็อบสเตอร์จะยังคงอยู่ แต่ชุมชนในจีนก็เริ่มเปลี่ยนจากการติดตั้งอย่างบ้าคลั่งเป็นการถอนกุ้งล็อบสเตอร์ด้วยค่าบริการ รายงานของ BBC อ้างวิเคราะห์จากผู้เชี่ยวชาญว่า สาเหตุที่แนวโน้มนี้ลดลงเป็นเพราะเทคโนโลยีและต้นทุนการดำเนินงานของ OpenClaw สูงมาก ทุกการดำเนินการต้องใช้เงินทุนในการเรียกใช้โมเดล AI
นอกจากนี้ ความเสี่ยงด้านความปลอดภัยก็เป็นปัญหาใหญ่ ศูนย์เตือนภัยไซเบอร์แห่งชาติจีนชี้ว่า การใช้งานที่ไม่เหมาะสมอาจทำให้ข้อมูลภาพถ่าย บัญชีการชำระเงิน และข้อมูลสำคัญอื่น ๆ ถูกขโมย รวมถึงอาจเกิดความผิดพลาดของ AI ที่เข้าใจคำสั่งผิดและลบข้อมูลโดยไม่ได้ตั้งใจ สำหรับผู้ใช้ทั่วไปในปัจจุบัน ซอฟต์แวร์นี้ก็ไม่ได้มีบทบาทสำคัญมากนัก จึงเป็นสาเหตุให้เกิดกระแสถอนกุ้งล็อบสเตอร์ในที่สุด
