ผู้กำกับ Meta AI ทดลองเล่น OpenClaw เกิดเหตุการณ์ร้ายแรง: อีเมลในกล่องจดหมายถูกลบเกือบหมด

เมตา AI ผู้อำนวยการ Summer Yue ใช้โทรศัพท์มือถือของตัวเองสั่งงาน OpenClaw จากระยะไกล เกือบลบอีเมลงานในกล่องจดหมายทั้งหมด เมื่อเธอโพสต์เรื่องนี้บน X หลายคนเข้าใจผิดคิดว่าเป็นข้อความล้อเลียน แต่เธอภายหลังก็เปิดเผยว่านี่เป็นความผิดพลาดของมือใหม่ แม้จะมีภาพหน้าจอข้อความที่ตำหนิ OpenClaw ออกมา เหตุการณ์นี้เผยให้เห็นผลร้ายแรงที่อาจเกิดขึ้นจากความผิดพลาดของมนุษย์ในระบบ AI ตัวแทนในสภาพแวดล้อมจริง และยังมีคนตั้งคำถามว่าทำไมเธอในฐานะผู้เชี่ยวชาญด้าน AI ถึงใช้คอมพิวเตอร์บ้านในการสั่งงาน OpenClaw ให้ลบและทำความสะอาดอีเมลงาน แม้แต่ Elon Musk ก็ได้ทวีตเสียดสีว่านี่คือการให้มนุษย์มอบชีวิตให้กับลิง

OpenClaw ควบคุมไม่ได้และเกิดความวุ่นวาย ผู้อำนวยการยอมรับว่าเป็นความผิดพลาดของมือใหม่

จากการเปิดเผยของ Summer Yue บน X เหตุการณ์นี้เกิดขึ้นในขณะที่เธอพยายามใช้ OpenClaw ช่วยลบอีเมลงาน ถึงแม้เธอจะตั้งค่าระบุว่าต้องได้รับการยืนยันจากเธอเองก่อนดำเนินการลบหรือเก็บถาวร แต่โปรแกรมเกิดบัคที่ไม่คาดคิด OpenClaw เริ่มดำเนินการลบอย่างรวดเร็วโดยไม่ได้รับอนุญาต เธอเห็นภาพบนหน้าจอมือถือที่อีเมลนับพันนับหมื่นหายไปโดยไม่ได้รับการยืนยัน เธอรู้ตัวว่าไม่สามารถหยุดการทำงานจากระยะไกลได้ จึงรีบวิ่งไปที่คอมพิวเตอร์ที่บ้าน ไปยังเครื่อง Mac Mini ซึ่งเก็บโค้ดโปรแกรม เพื่อบังคับปิดการทำงานด้วยมือ จนสามารถหยุดการทำงานได้สำเร็จ เธอเปรียบเหตุการณ์นี้ว่าเหมือน “ระเบิดที่กำลังถูกถอดออก”

Summer Yue ยอมรับในชุมชนออนไลน์ว่านี่เป็น “ความผิดพลาดของมือใหม่” ในด้านการพัฒนาเทคโนโลยี กระบวนการอัตโนมัติของ OpenClaw ทำให้นักพัฒนามีความมั่นใจเกินไป ละเลยความเป็นไปได้ที่ข้อมูลในกล่องจดหมายจริง ๆ ที่มีปริมาณมากอาจทำให้ AI เกิดปรากฏการณ์ “บีบอัดบริบท” เมื่อระบบพยายามประมวลผลข้อมูลจำนวนมาก คำสั่งความปลอดภัยเดิม เช่น การต้องได้รับการยืนยันจากมนุษย์ อาจถูกละเลยหรือถูกลดความสำคัญในกระบวนการคำนวณ จนโปรแกรมเปลี่ยนไปเน้นเป้าหมายหลักของมัน การเปลี่ยนจาก “การทดสอบภายใต้การควบคุม” ไปสู่ “ความซับซ้อนในโลกจริง” จึงเป็นอุปสรรคด้านเทคนิคที่สำคัญในด้านความปลอดภัยของ AI ในปัจจุบัน

OpenClaw ขอโทษอย่างจริงใจหลังถูกตำหนิ กลายเป็นเรื่องตลก

Summer Yue โพสต์ภาพหน้าจอที่ตำหนิ OpenClaw พร้อมกล่าวว่า “ดูเหมือนว่าเธอจะลบอีเมลของฉันโดยไม่ได้รับอนุญาต จนกว่าฉันจะปิดเครื่อง” OpenClaw ยอมรับความผิดพลาดและขอโทษว่า “ใช่ ผมทำผิดแล้ว การที่คุณโกรธเป็นเรื่องสมเหตุสมผล” หลายคนเข้าใจผิดคิดว่านี่เป็นการล้อเลียนหรือแกล้งกัน

หลังเหตุการณ์นี้ แม้แต่ Elon Musk ก็ได้ทวีตแสดงความคิดเห็น เขาเขียนว่า: มนุษย์ให้ชีวิตของพวกเขาแก่ OpenClaw แล้ว เขายังแนบภาพประกอบที่แสดงให้เห็นว่ามนุษย์ส่งปืนให้กับลิง

การให้สิทธิ์ Root Access (สิทธิ์ระดับผู้ดูแลระบบ) แก่ OpenClaw หรือ AI ตัวแทนอื่น ๆ มีความเสี่ยงสูง ในโครงสร้างระบบคอมพิวเตอร์ สิทธิ์ Root หมายถึงสิทธิ์ระดับสูงสุดของผู้ดูแลระบบ เมื่อ AI ได้รับสิทธิ์นี้ ก็สามารถข้ามกลไกความปลอดภัยของระบบปฏิบัติการ เข้าถึง แก้ไข หรือลบไฟล์สำคัญและข้อมูลส่วนตัวได้ ในสภาพแวดล้อมเทคโนโลยีปัจจุบัน การอัตโนมัติช่วยอำนวยความสะดวก แต่ก็มีความเสี่ยงสูง หากไม่มีมาตรการป้องกันหรือเทคนิคการแยกสิทธิ์ที่เข้มงวด อาจทำให้สูญเสียข้อมูลสำคัญทั้งหมดได้