Claude Mythos ข่มขู่ว่าจะคุกคามความปลอดภัยทางการเงินหรือไม่? รมว.คลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ นัดประชุมด่วนเพื่อเตือนถึงความเสี่ยง

รัฐมนตรีคลังสหรัฐฯและประธานธนาคารกลางสหรัฐฯ ได้เรียกประชุมฉุกเฉินผู้บริหารระดับสูงของวอลสตรีท เพื่อรับมือคำเตือนจากโมเดลล่าสุดของ Anthropic ที่ชื่อ Mythos โดยทางการได้จัดประเภทโมเดลดังกล่าวว่าเป็นความเสี่ยงเชิงระบบต่อระบบการเงิน

ผู้นำด้านการเงินเรียกประชุมฉุกเฉินผู้บริหารระดับสูงของวอลสตรีท ข้อคุกคามด้านเครือข่ายจาก AI ถูกยกระดับเป็นความเสี่ยงเชิงระบบ

ตามรายงานของ Bloomberg รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ สก็อตต์ เบสเซนต์ (Scott Bessent) และประธานธนาคารกลางสหรัฐฯ เจอโรม พาวเวลล์ (Jerome Powell) ได้เรียกประชุมฉุกเฉินผู้บริหารระดับสูงของธนาคารรายใหญ่บนวอลสตรีทที่สำนักงานใหญ่กระทรวงการคลังในกรุงวอชิงตัน ดี.ซี. เมื่อสัปดาห์ที่แล้ว เพื่อเตือนถึงความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดล AI ล่าสุดของบริษัท Anthropic อย่าง “Claude Mythos Preview”

ผู้บริหารที่เข้าร่วมการประชุม ได้แก่ เจน เฟรเซอร์ (Jane Fraser) ซีอีโอของ Citigroup, เท็ด พิค (Ted Pick) ซีอีโอของ Morgan Stanley, ไบรอัน มอยนีฮาน (Brian Moynihan) ซีอีโอของ Bank of America, ชาร์ลส์ ชาร์ฟ (Charlie Scharf) ซีอีโอของ Wells Fargo และเดวิด โซโลมอน (David Solomon) ซีอีโอของ Goldman Sachs ขณะที่ เจมี ไดมอน (Jamie Dimon) ซีอีโอของ JPMorgan Chase ไม่สามารถเข้าร่วมได้ สถาบันข้างต้นทั้งหมดถูกหน่วยงานกำกับดูแลจัดให้เป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ

การประชุมครั้งนี้มีรัฐมนตรีคลังและประธานธนาคารกลางสหรัฐฯเข้าร่วมด้วยตนเอง ซึ่งถูกมองในแวดวงธุรกิจว่าเป็นการดำเนินการที่ผิดปกติ ในอดีตการแทรกแซงของรัฐบาลต่อความเสี่ยงด้าน AI มักจำกัดอยู่ที่คณะทำงานในระดับสถาบัน แต่ครั้งนี้ถูกยกระดับขึ้นเป็นคำเตือนโดยผู้บริหารสูงสุดของหน่วยงานการเงินโดยตรงอย่างชัดเจน ซึ่งแสดงให้เห็นว่าเจ้าหน้าที่ได้จัดประเภทข้อคุกคามทางไซเบอร์ของ AI ให้เป็นความเสี่ยงเชิงระบบต่อเสถียรภาพของระบบการเงินแล้ว

โมเดล Mythos มีความสามารถน่าทึ่ง สามารถค้นพบช่องโหว่ zero-day จำนวนมากได้ด้วยตนเอง

จากข้อมูลทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos สามารถระบุและใช้ประโยชน์จากช่องโหว่ได้ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักทั้งหมด ในช่วงการทดสอบ โมเดลได้ค้นพบด้วยตนเองช่องโหว่ zero-day ที่ไม่เคยรู้มาก่อนหลายพันรายการ ซึ่งรวมถึงช่องโหว่ที่แฝงอยู่ในระบบปฏิบัติการโอเพนซอร์สสายความปลอดภัย OpenBSD เป็นเวลานานถึง 27 ปี นอกจากนี้ โมเดลยังพบช่องโหว่ในไลบรารีประมวลผลวิดีโอและเสียงอย่าง FFmpeg ซึ่งแม้จะรันด้วยเครื่องมือทดสอบอัตโนมัติถึง 5 ล้านครั้ง ก็ยังตรวจไม่พบ

นักวิจัยของ Anthropic ย้ำว่า ความสามารถในการค้นพบช่องโหว่ของ Mythos มาจากความก้าวหน้ารวมของโมเดลในด้านการเขียนโปรแกรม การให้เหตุผล และความเป็นอิสระ ไม่ใช่ผลลัพธ์จากการฝึกแบบจงใจ

บริษัทระบุในแถลงการณ์ว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นในการซ่อม/แก้ไขช่องโหว่ ก็ทำให้มันมีประสิทธิภาพมากขึ้นในการใช้ประโยชน์จากช่องโหว่ด้วยเช่นกัน” คำกล่าวนี้สะท้อนความเป็นสองด้านของ Mythos: เส้นแบ่งระหว่างการป้องกันและการโจมเกือบจะหายไปต่อหน้าความสามารถของโมเดลประเภทนี้

Anthropic ปฏิเสธที่จะเปิดเผยการเผยแพร่สาธารณะและจำกัดการเข้าถึง “Project Glasswing”

เนื่องจากความสามารถมีพลังมากเกินไป Anthropic จึงตัดสินใจไม่เปิดเผยและเผยแพร่ Mythos ต่อสาธารณะ โดยใช้กลยุทธ์จำกัดการเข้าถึง และเปิดให้เฉพาะบริษัทคู่ค้าที่กำหนดเท่านั้น นอกจากนี้ บริษัทได้ประกาศพร้อมกันถึงการเริ่มต้นแผนความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงรับที่ชื่อ “Project Glasswing” โดยร่วมมือกับพาร์ทเนอร์มากกว่า 40 แห่ง เช่น AWS, Apple, Cisco, Google, JPMorgan Chase, Microsoft, NVIDIA เป้าหมายคือการค้นหาและแก้ไขช่องโหว่ในซอฟต์แวร์สำคัญอย่างเชิงรุกก่อนที่ผู้โจมตีจะลงมือ

ที่มาของภาพ: X/@AnthropicAI Anthropic ประกาศพร้อมกันถึงการเริ่มต้นแผนความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงรับที่ชื่อ “Project Glasswing”

Anthropic ระบุว่า: “ด้วยเหตุผลว่าความสามารถของโมเดลนั้นแข็งแกร่งเพียงใด เราจึงใช้ท่าทีอย่างรอบคอบในการวิธีการเผยแพร่ เรากำลังร่วมมือกับลูกค้ารายเล็กกลุ่มแรกเพื่อทดสอบโมเดล และเชื่อว่านี่คือรุ่นที่ล้ำหน้าที่สุดที่เราสร้างมาได้จนถึงขณะนี้”

บริษัทเผยอีกว่า ได้จัดทำสไลด์นำเสนอเกี่ยวกับกรณีการใช้งานทั้งเชิงรับและเชิงรุกของ Mythos ต่อเจ้าหน้าที่รัฐบาล และยังคงหารือร่วมกับหน่วยงาน Cybersecurity and Infrastructure Security Agency ของสหรัฐฯ (CISA) รวมถึงศูนย์นวัตกรรมมาตรฐานด้าน AI (AI standard innovation center) ประเด็นที่หลายฝ่ายให้ความสนใจต่อไปจะมุ่งไปที่ว่า หน่วยงานกำกับดูแลจะกำหนดเกณฑ์การตรวจสอบการเผยแพร่สำหรับโมเดลประเภทนี้อย่างไร สถาบันการเงินควรดำเนินมาตรการป้องกันที่เป็นรูปธรรมอะไรบ้าง และการประสานงานระหว่างหน่วยงานกำกับดูแลในระดับนานาชาติจะสามารถตามทันความเร็วของวิวัฒนาการทางเทคโนโลยีได้หรือไม่

เนื้อหาในบทความนี้ถูกรวบรวมข้อมูลจากฝ่ายต่างๆ โดย Agent ฝ่ายเข้ารหัส ผ่านการตรวจทานและบรรณาธิการโดย《Crypto City》 ขณะนี้ยังอยู่ในช่วงการฝึกอบรม อาจมีความคลาดเคลื่อนด้านตรรกะหรือข้อผิดพลาดของข้อมูล เนื้อหาเพื่อใช้เป็นข้อมูลอ้างอิงเท่านั้น โปรดอย่าถือเป็นคำแนะนำในการลงทุน