Claude Mythos ข่มขู่ความปลอดภัยทางการเงินหรือไม่? รัฐมนตรีคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ ประชุมด่วนเพื่อเตือนถึงความเสี่ยง

รัฐมนตรีคลังสหรัฐและประธานธนาคารกลางสหรัฐ (เฟด) เรียกผู้บริหารระดับสูงของวอลสตรีตประชุมฉุกเฉิน เพื่อเตือนเกี่ยวกับโมเดลล่าสุดของ Anthropic ชื่อ Mythos เจ้าหน้าที่ได้จัดให้โมเดลนี้เป็นความเสี่ยงเชิงระบบต่อระบบการเงิน

ผู้นำด้านการเงินเรียกผู้บริหารระดับสูงของวอลสตรีตประชุมฉุกเฉิน ภัยคุกคามด้านเครือข่ายของ AI ถูกยกระดับเป็นความเสี่ยงเชิงระบบ

ตามรายงานของ Bloomberg รัฐมนตรีคลังสหรัฐ สก็อตต์ เบสเซนต์ (Scott Bessent) และประธานเฟด เจอโรม พาวเวลล์ (Jerome Powell) ได้เรียกประชุมฉุกเฉินกับบรรดาผู้บริหารระดับซีอีโอของธนาคารชั้นนำในวอลสตรีตที่สำนักงานใหญ่กระทรวงการคลังในกรุงวอชิงตัน ดี.ซี. เมื่อสัปดาห์ที่แล้ว เพื่อแจ้งเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดจากโมเดลล่าสุดของบริษัท AI อย่าง Anthropic ชื่อ “Claude Mythos Preview”

ผู้บริหารที่เข้าร่วมประชุม ได้แก่ เจน เฟรเซอร์ (Jane Fraser) ซีอีโอของ Citigroup, เท็ด พิก (Ted Pick) ซีอีโอของ Morgan Stanley, ไบรอัน โมยนีฮาน (Brian Moynihan) ซีอีโอของ Bank of America, ชาร์ลส์ ชาฟร์ (Charlie Scharf) ซีอีโอของ Wells Fargo และเดวิด โซโลมอน (David Solomon) ซีอีโอของ Goldman Sachs ขณะที่ เจมี ไดมอน (Jamie Dimon) ซีอีโอของ JPMorgan ไม่สามารถเข้าร่วมได้ สถาบันข้างต้นทั้งหมดถูกหน่วยงานกำกับจัดให้เป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ

การประชุมครั้งนี้มีรัฐมนตรีคลังและประธานเฟดเข้าร่วมด้วยตนเอง ซึ่งในมุมมองของวงการถือว่าเป็นเรื่องผิดปกติ ในอดีต การเข้าไปแทรกแซงความเสี่ยงของ AI ของรัฐบาลมักจำกัดอยู่แค่คณะทำงานในระดับองค์กร แต่ครั้งนี้ได้ถูกยกระดับจนถึงการที่หัวหน้าหน่วยงานการเงินสูงสุดของประเทศเข้าเตือนโดยตรง ซึ่งเป็นการส่งสัญญาณชัดเจนว่าเจ้าหน้าที่ได้จัดให้ภัยคุกคามทางไซเบอร์ของ AI เป็นความเสี่ยงเชิงระบบต่อเสถียรภาพของระบบการเงินแล้ว

ความสามารถของโมเดล Mythos น่าทึ่ง สามารถค้นพบช่องโหว่จำนวนมากแบบ zero-day ได้ด้วยตนเอง

ตามเอกสารทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos มีความสามารถในการระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเบราว์เซอร์ยอดนิยมทั้งหมด ในช่วงการทดสอบ โมเดลดังกล่าวค้นพบเองจำนวนหลายพันรายการของช่องโหว่ zero-day ที่ไม่เคยมีใครรู้มาก่อน (zero-day vulnerabilities) ซึ่งรวมถึงช่องโหว่ที่คงอยู่ในระบบปฏิบัติการแบบโอเพนซอร์สสายความปลอดภัยอย่าง OpenBSD มานานถึง 27 ปี อีกทั้งโมเดลยังพบช่องโหว่ในไลบรารีประมวลผลวิดีโอและเสียงอย่าง FFmpeg ที่แม้จะรันด้วยเครื่องมือทดสอบอัตโนมัติถึง 5 ล้านครั้ง ก็ยังตรวจไม่พบ

นักวิจัยของ Anthropic เน้นว่า ความสามารถในการค้นหาช่องโหว่ของ Mythos มาจากความก้าวหน้าโดยรวมของโมเดลในด้านการเขียนโปรแกรม การให้เหตุผล และความเป็นอิสระ ไม่ใช่ผลจากการฝึกแบบจงใจเพื่อทำเช่นนั้น

บริษัทระบุในแถลงการณ์ว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นในการอุด/ซ่อมแซมช่องโหว่ ก็ทำให้มันมีประสิทธิภาพมากขึ้นในการใช้ประโยชน์จากช่องโหว่ได้เช่นกัน” ถ้อยแถลงนี้ชี้ให้เห็นถึงความเป็นสองด้านของ Mythos: เส้นแบ่งระหว่างการป้องกันกับการโจมแทบจะเลือนหายไปต่อหน้ารุ่นโมเดลประเภทนี้

Anthropic ปฏิเสธที่จะเปิดเผยการประกาศอย่างเป็นทางการเกี่ยวกับการเริ่มโครงการ “Glasswing” ที่จำกัดการเข้าถึง

เพราะความสามารถนั้นแข็งแกร่งเกินไป Anthropic จึงตัดสินใจไม่เผยแพร่ Mythos ต่อสาธารณะ แต่ใช้กลยุทธ์จำกัดการเข้าถึง โดยเปิดให้ใช้เฉพาะกับบริษัทคู่ความร่วมมือบางรายเท่านั้น บริษัทยังประกาศพร้อมกันถึงการเริ่มโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อ “Project Glasswing” โดยร่วมมือกับพันธมิตรองค์กรกว่า 40 แห่ง เช่น AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA และอื่นๆ เป้าหมายคือการค้นหาและอุด/ซ่อมแซมช่องโหว่ในซอฟต์แวร์สำคัญเชิงรุก ก่อนที่ฝ่ายผู้โจมตีจะลงมือ

ที่มาของภาพ: X/@AnthropicAI Anthropic ประกาศพร้อมกันถึงการเริ่มโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อ “Project Glasswing”

Anthropic ระบุว่า: “ด้วยความสามารถอันแข็งแกร่งของโมเดล เราจึงใช้ทัศนคติที่รอบคอบต่อรูปแบบการเผยแพร่ เรากำลังร่วมมือกับลูกค้ารายเล็กๆ ที่ได้รับการเข้าถึงตั้งแต่ระยะแรกเพื่อทดสอบโมเดล และเชื่อว่านี่คือรุ่นที่ก่อให้เกิดความก้าวหน้ามากที่สุดที่เราสร้างขึ้นจนถึงตอนนี้”

บริษัทเผยเพิ่มเติมว่ามีการบรีฟสถานการณ์การใช้งานทั้งเชิงรุกและเชิงป้องกันของ Mythos ต่อเจ้าหน้าที่ภาครัฐ และยังคงหารือกับหน่วยงานด้านความปลอดภัยทางไซเบอร์และโครงสร้างพื้นฐาน (CISA) ของสหรัฐ รวมถึงศูนย์นวัตกรรมมาตรฐานด้าน AI จากภายนอก จุดที่หลายฝ่ายให้ความสนใจต่อไปจึงไปอยู่ที่ว่า หน่วยงานกำกับจะกำหนดเกณฑ์การตรวจทานก่อนเผยแพร่สำหรับโมเดลลักษณะนี้อย่างไร สถาบันการเงินควรดำเนินมาตรการป้องกันเชิงรูปธรรมใดบ้าง และการประสานงานระหว่างหน่วยงานกำกับดูแลระดับนานาชาติจะทันต่อความเร็วของการพัฒนาทางเทคโนโลยีหรือไม่

บทความนี้ถูกรวบรวมข้อมูลจากฝ่ายต่างๆ โดย Agent ด้านการเข้ารหัส ผ่านการตรวจทานและบรรณาธิการโดย 《Crypto City》 ขณะนี้ยังอยู่ระหว่างการฝึกอบรม อาจมีความคลาดเคลื่อนด้านเหตุผลหรือความผิดพลาดของข้อมูล เนื้อหามีไว้เพื่อการอ้างอิงเท่านั้น โปรดอย่าถือเป็นคำแนะนำในการลงทุน