Claude Mythos ขู่คุกคามความปลอดภัยทางการเงินหรือไม่? รัฐมนตรีคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ ประชุมด่วนเพื่อเตือนถึงความเสี่ยง

รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ ได้เร่งเรียกประชุมผู้บริหารระดับสูงของวอลสตรีตอย่างเร่งด่วน เพื่อเตือนเกี่ยวกับโมเดลล่าสุดของ Anthropic ที่ชื่อ Mythos เจ้าหน้าที่ได้จัดประเภทโมเดลดังกล่าวว่าเป็นความเสี่ยงเชิงระบบต่อระบบการเงิน

ผู้นำด้านการเงินเรียกประชุมผู้บริหารระดับสูงของวอลสตรีตอย่างเร่งด่วน ภัยคุกคามบนเครือข่ายจาก AI ถูกยกระดับเป็นความเสี่ยงเชิงระบบ

ตามรายงานของ Bloomberg รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ สก็อตต์ เบสเซนต์ (Scott Bessent) และประธานธนาคารกลางสหรัฐฯ เจอโรม พาวเวลล์ (Jerome Powell) เมื่อสัปดาห์ก่อนที่กรุงวอชิงตัน ดี.ซี. ได้เรียกประชุมผู้บริหารระดับสูงจากธนาคารหลักของวอลสตรีตแบบเร่งด่วน ณ ศูนย์บัญชาการกระทรวงการคลังสหรัฐฯ เพื่อออกคำเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดลล่าสุดของบริษัท AI อย่าง Anthropic ชื่อ “Claude Mythos Preview”

ผู้บริหารธนาคารที่เข้าร่วมประชุม ได้แก่ เจน เฟรเซอร์ (Jane Fraser) ซีอีโอของ Citigroup, เท็ด พิค (Ted Pick) ซีอีโอของ Morgan Stanley, ไบรอัน โมยินิฮาน (Brian Moynihan) ซีอีโอของ Bank of America, ชาร์ลส์ ชาร์ฟ (Charlie Scharf) ซีอีโอของ Wells Fargo และเดวิด โซโลมอน (David Solomon) ซีอีโอของ Goldman Sachs ส่วน เจมี ไดมอน (Jamie Dimon) ซีอีโอของ JPMorgan Chase ไม่สามารถเข้าร่วมได้ สถาบันข้างต้นล้วนถูกหน่วยงานกำกับจัดให้เป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ

การประชุมครั้งนี้มีรัฐมนตรีว่าการกระทรวงการคลังและประธานธนาคารกลางสหรัฐฯ เข้าร่วมด้วยตนเอง ซึ่งถูกมองในแวดวงว่าเป็นเรื่องผิดปกติ ในอดีต การที่รัฐบาลเข้ามาแทรกแซงความเสี่ยงของ AI มักจะอยู่ในรูปของคณะทำงานระดับสถาบัน แต่ครั้งนี้กลับถูกยกระดับขึ้นถึงการที่หัวหน้าหน่วยงานกำกับสูงสุดของภาคการเงินลงมาให้คำเตือนด้วยตนเองอย่างชัดเจน ถือเป็นการส่งสัญญาณอย่างชัดเจนว่าเจ้าหน้าที่ได้จัดประเภทภัยคุกคามทางไซเบอร์จาก AI ว่าเป็นความเสี่ยงเชิงระบบต่อเสถียรภาพของระบบการเงิน

โมเดล Mythos มีความสามารถน่าทึ่ง สามารถค้นพบช่องโหว่จำนวนมากแบบศูนย์วันด้วยตนเอง

ตามข้อมูลทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos สามารถระบุและใช้ประโยชน์จากช่องโหว่ได้ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักทั้งหมด ในช่วงการทดสอบ โมเดลดังกล่าวค้นพบช่องโหว่ศูนย์วัน (zero-day vulnerabilities) ที่ไม่เคยมีใครรู้จักมาก่อนนับพันรายการด้วยตนเอง ซึ่งรวมถึงช่องโหว่ที่แฝงอยู่ในระบบปฏิบัติการโอเพนซอร์สสายความปลอดภัยอย่าง OpenBSD มายาวนานถึง 27 ปี นอกจากนี้ โมเดลยังพบช่องโหว่ในไลบรารีสำหรับประมวลผลวิดีโอ/เสียงอย่าง FFmpeg ที่แม้จะรันด้วยเครื่องมือทดสอบแบบอัตโนมัติถึง 5 ล้านครั้งก็ยังตรวจไม่พบ

นักวิจัยของ Anthropic ย้ำว่า ความสามารถในการค้นพบช่องโหว่ของ Mythos มาจากความก้าวหน้ารวมด้านการเขียนโค้ด การให้เหตุผล และความเป็นอิสระของโมเดล ไม่ใช่ผลจากการฝึกโดยเจตนา

บริษัทระบุในแถลงการณ์ว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นในการซ่อมแซมช่องโหว่ ก็ทำให้มันมีประสิทธิภาพมากขึ้นในการใช้ประโยชน์จากช่องโหว่ด้วย” คำกล่าวนี้ตอกย้ำความเป็นสองด้านของ Mythos: เส้นแบ่งระหว่างการป้องกันและการโจมแทบจะหายไปต่อหน้ารูปแบบโมเดลประเภทนี้

Anthropic ปฏิเสธที่จะเปิดเผยต่อสาธารณะ ประเด็นการจำกัดการเข้าถึงภายใต้ “โครงการปีกแก้ว”

เพราะความสามารถแข็งแกร่งเกินไป Anthropic จึงตัดสินใจไม่เผยแพร่ Mythos ต่อสาธารณะ และใช้กลยุทธ์จำกัดการเข้าถึง โดยจะให้ใช้เฉพาะกับบริษัทคู่ค้าบางรายเท่านั้น บริษัทยังประกาศพร้อมกันว่าจะเริ่มโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อ “โครงการปีกแก้ว” (Project Glasswing) โดยจะร่วมมือกับพันธมิตรเชิงธุรกิจมากกว่า 40 แห่ง เช่น AWS, Apple, Cisco, Google, JPMorgan Chase, Microsoft, Nvidia เป้าหมายคือก่อนที่ผู้โจมตีจะลงมือ จะมีการค้นหาและซ่อมแซมช่องโหว่ในซอฟต์แวร์สำคัญอย่างเชิงรุก

ภาพแหล่งที่มา: X/@AnthropicAI Anthropic ประกาศพร้อมกันถึงการเริ่มโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อ “โครงการปีกแก้ว” (Project Glasswing)

Anthropic ระบุว่า “ด้วยความสามารถอันแข็งแกร่งของโมเดล เราจึงใช้ทัศนคติที่รอบคอบต่อวิธีการเผยแพร่ เรากำลังร่วมมือกับลูกค้าในช่วงเข้าถึงก่อนกลุ่มเล็กๆ เพื่อทดสอบโมเดล และเชื่อว่านี่คือหนึ่งในเจเนอเรชันที่ก้าวล้ำที่สุดที่เราสร้างขึ้นมาจนถึงตอนนี้”

บริษัทเผยเพิ่มเติมว่าได้มีการทำการบรรยายสรุปแก่เจ้าหน้าที่ภาครัฐเกี่ยวกับสถานการณ์การใช้งานทั้งด้านการโจมตีและการป้องกันของ Mythos และยังคงหารือกับหน่วยงานความปลอดภัยทางไซเบอร์และโครงสร้างพื้นฐานของสหรัฐฯ (CISA) และศูนย์นวัตกรรมมาตรฐานด้าน AI อย่างต่อเนื่อง จุดสนใจที่สาธารณชนจับตาต่อไปจึงมุ่งไปที่ว่าจะมีการกำหนดมาตรฐานการตรวจสอบการเผยแพร่สำหรับโมเดลลักษณะเดียวกันอย่างไรบ้าง หน่วยงานการเงินควรดำเนินมาตรการป้องกันเชิงรูปธรรมใดบ้าง และการประสานงานระหว่างหน่วยงานกำกับดูแลในระดับนานาชาติจะทันต่อความเร็วของการพัฒนาทางเทคโนโลยีได้หรือไม่

เนื้อหานี้ถูกรวบรวมข้อมูลจากทุกฝ่ายโดย Agent ฝั่งเข้ารหัส และผ่านการตรวจทานและเรียบเรียงโดย 《加密城市》 ขณะนี้ยังอยู่ในระหว่างการฝึก อาจมีความคลาดเคลื่อนด้านตรรกะหรือความผิดพลาดด้านข้อมูล เนื้อหาเพื่อใช้เป็นข้อมูลอ้างอิงเท่านั้น โปรดอย่าถือเป็นคำแนะนำในการลงทุน