Claude Mythos ขู่คุกคามความปลอดภัยทางการเงิน? รัฐมนตรีคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ เรียกประชุมฉุกเฉินเตือนความเสี่ยง

รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐ (Fed) เรียกประชุมด่วนผู้บริหารระดับสูงในวอลล์สตรีท เพื่อเตือนถึงโมเดลล่าสุดของ Anthropic ที่ชื่อ Mythos โดยทางการได้จัดประเภทโมเดลดังกล่าวว่าเป็นความเสี่ยงเชิงระบบต่อระบบการเงิน

ผู้นำการคลังเรียกประชุมด่วนผู้บริหารระดับสูงในวอลล์สตรีท ความคุกคามทางไซเบอร์จาก AI ยกระดับสู่ความเสี่ยงเชิงระบบ

ตามรายงานของ Bloomberg รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ สกอตต์ เบสเซนต์ (Scott Bessent) และประธาน Fed เจอโรม พาวเวลล์ (Jerome Powell) ได้เรียกประชุมด่วนผู้บริหารธนาคารรายใหญ่ของวอลล์สตรีทในช่วงสัปดาห์ที่ผ่านมา ณ กระทรวงการคลังในกรุงวอชิงตัน ดี.ซี. เพื่อออกคำเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดล AI ของบริษัท Anthropic รุ่นล่าสุดอย่าง “Claude Mythos Preview”

ผู้บริหารที่เข้าร่วมการประชุมประกอบด้วย เจน เฟรเซอร์ (Jane Fraser) ประธานเจ้าหน้าที่บริหารของซิตี้กรุ๊ป, เท็ด พิค (Ted Pick) ประธานเจ้าหน้าที่บริหารของมอร์แกน สแตนลีย์, ไบรอัน โมยนีฮาน (Brian Moynihan) ประธานเจ้าหน้าที่บริหารของBank of America, ชาร์ลี ชาฟ (Charlie Scharf) ประธานเจ้าหน้าที่บริหารของเวลส์ฟาร์โก และเดวิด โซโลมอน (David Solomon) ประธานเจ้าหน้าที่บริหารของโกลด์แมน แซคส์ ขณะที่ เจมี ไดมอน (Jamie Dimon) ประธานเจ้าหน้าที่บริหารของ JPMorgan ไม่สามารถเข้าร่วมได้ สถาบันข้างต้นล้วนถูกหน่วยงานกำกับจัดให้เป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ

การประชุมครั้งนี้มีรัฐมนตรีว่าการกระทรวงการคลังและประธาน Fed เข้าร่วมด้วยตนเอง ซึ่งในแวดวงมองว่าเป็นเหตุการณ์ที่ผิดปกติ ในอดีต การเข้าไปเกี่ยวข้องของรัฐบาลกับความเสี่ยงจาก AI มักจำกัดอยู่ที่คณะทำงานในระดับสถาบัน แต่ครั้งนี้ได้ถูกยกระดับขึ้นสู่การที่หัวหน้าหน่วยงานกำกับสูงสุดของภาคการเงินออกมาเตือนโดยตรง ชัดเจนว่าหน่วยงานเห็นว่าความคุกคามทางไซเบอร์จาก AI เป็นความเสี่ยงเชิงระบบต่อเสถียรภาพของระบบการเงิน

โมเดล Mythos มีความสามารถที่น่าทึ่ง สามารถค้นพบช่องโหว่ zero-day จำนวนมากได้ด้วยตัวเอง

ตามข้อมูลทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos มีความสามารถในการระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักทั้งหมด ในระยะทดสอบ โมเดลดังกล่าวสามารถค้นพบช่องโหว่ zero-day ที่ไม่เคยรู้มาก่อนนับพันรายการได้ด้วยตัวเอง (zero-day vulnerabilities) โดยรวมถึงช่องโหว่ที่ตรวจพบใน OpenBSD ซึ่งเป็นระบบปฏิบัติการโอเพนซอร์สที่เน้นด้านความปลอดภัย และช่องโหว่นี้ซ่อนอยู่มานานถึง 27 ปี นอกจากนี้ โมเดลยังพบช่องโหว่ในไลบรารีการประมวลผลวิดีโอและเสียงอย่าง FFmpeg ซึ่งแม้จะรันด้วยเครื่องมือทดสอบอัตโนมัติถึง 5,000,000 ครั้ง ก็ยังตรวจไม่พบ

นักวิจัยของ Anthropic ย้ำว่า ความสามารถในการค้นพบช่องโหว่ของ Mythos มาจากความก้าวหน้าโดยรวมของโมเดลในด้านการเขียนโปรแกรม การใช้เหตุผล และความเป็นอิสระ ไม่ใช่ผลจากการฝึกโดยเจตนา

บริษัทระบุในแถลงการณ์ว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลซ่อมแซมช่องโหว่ได้มีประสิทธิภาพมากขึ้น ก็ทำให้โมเดลใช้ประโยชน์จากช่องโหว่ได้อย่างมีประสิทธิภาพมากขึ้นเช่นกัน” คำกล่าวนี้สะท้อนความเป็นสองด้านของ Mythos: เส้นแบ่งระหว่างการป้องกันและการโจมเกือบจะเลือนหายไปต่อหน้ารุ่นโมเดลประเภทนี้

Anthropic ปฏิเสธที่จะเปิดเผยการประกาศอย่างเป็นทางการของการเริ่มต้น “โครงการปีกแก้ว” และจำกัดขอบเขตการเข้าถึง

เพราะความสามารถนั้นแรงเกินไป Anthropic จึงตัดสินใจไม่เปิดเผย Mythos ให้สาธารณชน และเลือกใช้กลยุทธ์ในการจำกัดการเข้าถึง โดยเปิดให้ใช้เฉพาะบริษัทร่วมมือบางกลุ่มเท่านั้น บริษัทประกาศพร้อมกันถึงการเริ่มต้นโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงรับที่มีชื่อว่า “Project Glasswing” โดยร่วมมือกับพาร์ทเนอร์องค์กรกว่า 40 แห่ง เช่น AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA เพื่อเป้าหมายในการค้นหาและซ่อมแซมช่องโหว่ในซอฟต์แวร์สำคัญเชิงรุก ก่อนที่ผู้โจมตีจะลงมือ

แหล่งที่มา: X/@AnthropicAI Anthropic ประกาศพร้อมกันถึงการเริ่มต้นโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงรับที่มีชื่อว่า “Project Glasswing”

Anthropic ระบุว่า “ด้วยพลังความสามารถของโมเดลที่แข็งแกร่ง เราจึงใช้แนวทางที่รอบคอบในการเผยแพร่ เรากำลังร่วมมือกับลูกค้ารายแรกกลุ่มเล็กเพื่อทดสอบโมเดล และเชื่อว่านี่คือเจเนอเรชันที่ก้าวล้ำที่สุดที่เราได้สร้างมาจนถึงตอนนี้”

บริษัทเผยอีกว่าได้บรรยายสรุปเกี่ยวกับกรณีการใช้งานทั้งเชิงรุกและเชิงรับของ Mythos ต่อเจ้าหน้าที่รัฐบาล และยังคงหารือกับหน่วยงานความปลอดภัยทางไซเบอร์และโครงสร้างพื้นฐานของสหรัฐฯ (CISA) รวมถึงศูนย์นวัตกรรมมาตรฐาน AI (AI Standards Innovation Center) อย่างต่อเนื่อง ประเด็นที่สังคมภายนอกจับตาต่อไปจะกระจุกอยู่ที่ว่า หน่วยงานกำกับดูแลจะกำหนดมาตรฐานการตรวจสอบการเผยแพร่สำหรับโมเดลประเภทนี้อย่างไร สถาบันการเงินควรใช้มาตรการป้องกันเชิงรูปธรรมใดบ้าง และการประสานงานระหว่างหน่วยงานกำกับดูแลระดับนานาชาติจะทันกับความเร็วของวิวัฒนาการทางเทคโนโลยีได้หรือไม่

เนื้อหานี้ถูกรวบรวมข้อมูลจากทุกฝ่ายโดย Agent ด้านการเข้ารหัส และผ่านการตรวจทานและบรรณาธิการโดย 《Crypto City》 ขณะนี้ยังอยู่ในช่วงการฝึกอบรม อาจมีความคลาดเคลื่อนด้านตรรกะหรือความคลาดเคลื่อนของข้อมูล เนื้อหาเพื่อใช้เป็นข้อมูลอ้างอิงเท่านั้น โปรดอย่าถือเป็นคำแนะนำในการลงทุน