Claude Mythos ขู่คุกคามความปลอดภัยทางการเงินหรือไม่? รมว.คลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ ประชุมฉุกเฉินเตือนถึงความเสี่ยง

รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ เรียกประชุมฉุกเฉินผู้บริหารระดับสูงของวอลล์สตรีท เพื่อเตือนเกี่ยวกับโมเดลล่าสุดของ Anthropic อย่าง Mythos เจ้าหน้าที่ได้จัดให้โมเดลดังกล่าวเป็นความเสี่ยงเชิงระบบต่อระบบการเงิน

ผู้นำการคลังเรียกประชุมฉุกเฉินผู้บริหารระดับสูงของวอลล์สตรีท ความเสี่ยงเครือข่ายภัยคุกคามจาก AI ถูกยกระดับเป็นความเสี่ยงเชิงระบบ

ตามรายงานของ Bloomberg รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ สกอตต์ เบสเซนต์ (Scott Bessent) และประธานธนาคารกลางสหรัฐฯ เจอโรม พาวเวลล์ (Jerome Powell) ได้เรียกประชุมฉุกเฉินผู้บริหารระดับหัวหน้าธนาคารรายใหญ่ของวอลล์สตรีทที่สำนักงานใหญ่กระทรวงการคลังในกรุงวอชิงตัน ดี.ซี. เมื่อสัปดาห์ที่ผ่านมา เพื่อเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดล AI ของ Anthropic รุ่นล่าสุด “Claude Mythos Preview”

ผู้บริหารที่เข้าร่วมประชุมรวมถึงซีอีโอของ Citigroup เจน เฟรเซอร์ (Jane Fraser), ซีอีโอของ Morgan Stanley เท็ด พิค (Ted Pick), ซีอีโอของ Bank of America ไบรอัน มอยนิฮาน (Brian Moynihan), ซีอีโอของ Wells Fargo ชาร์ลส์ ชาร์ฟ (Charlie Scharf) และซีอีโอของ Goldman Sachs เดวิด โซโลมอน (David Solomon); ขณะที่เจมี ไดมอน (Jamie Dimon) ซีอีโอของ JPMorgan Chase ไม่ได้เข้าร่วม สถาบันดังกล่าวล้วนถูกหน่วยงานกำกับจัดให้เป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ

การประชุมครั้งนี้รัฐมนตรีว่าการกระทรวงการคลังและประธานธนาคารกลางสหรัฐฯเข้าร่วมด้วยตนเอง ซึ่งถูกมองในวงการว่าเป็นเรื่องผิดปกติ ในอดีตการที่รัฐบาลเข้ามาเกี่ยวข้องกับความเสี่ยงด้าน AI มักอยู่ในรูปแบบคณะทำงานระดับสถาบัน แต่ครั้งนี้กลับถูกยกระดับขึ้นถึงระดับหัวหน้าหน่วยงานการเงินสูงสุดที่ลงมาด้วยตนเองเพื่อเตือนอย่างชัดเจน สื่อให้เห็นอย่างชัดเจนว่าเจ้าหน้าที่ได้จัดให้ภัยคุกคามทางไซเบอร์จาก AI เป็นความเสี่ยงเชิงระบบต่อเสถียรภาพของระบบการเงินแล้ว

โมเดล Mythos มีความสามารถน่าทึ่ง สามารถค้นพบช่องโหว่แบบ zero-day จำนวนมากได้ด้วยตนเอง

ตามข้อมูลทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos มีความสามารถในการระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักทั้งหมด ในช่วงการทดสอบ โมเดลได้ค้นพบช่องโหว่แบบ zero-day ที่ไม่เคยรู้มาก่อนด้วยตนเองหลายพันรายการ ซึ่งรวมถึงช่องโหว่ที่ซ่อนอยู่ในระบบปฏิบัติการโอเพนซอร์สด้านความปลอดภัยอย่าง OpenBSD มานานถึง 27 ปี อีกทั้งโมเดลยังพบช่องโหว่ในไลบรารีประมวลผลวิดีโอและเสียงอย่าง FFmpeg ซึ่งแม้จะมีการรันด้วยเครื่องมือทดสอบอัตโนมัติ 5000000 ครั้ง ก็ยังไม่สามารถตรวจพบได้

นักวิจัยของ Anthropic เน้นย้ำว่าความสามารถในการค้นพบช่องโหว่ของ Mythos มาจากความก้าวหน้ารวมของโมเดลในด้านการเขียนโค้ด การอนุมาน และความเป็นอิสระ ไม่ใช่ผลจากการฝึกโดยเจตนา

ในคำแถลงของบริษัทระบุว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลซ่อมแซมช่องโหว่ได้มีประสิทธิภาพยิ่งขึ้น ก็ทำให้มันใช้ประโยชน์จากช่องโหว่ได้อย่างมีประสิทธิภาพยิ่งขึ้นเช่นกัน” ถ้อยแถลงนี้สะท้อนความเป็นสองด้านของ Mythos: เส้นแบ่งระหว่างการป้องกันและการโจมเกือบจะเลือนหายไปต่อหน้ารุ่นโมเดลลักษณะนี้

Anthropic ปฏิเสธที่จะเผยแพร่รายละเอียดการเปิดใช้งาน “โครงการ Glasswing” จำกัดขอบเขตการเข้าถึง

เนื่องจากความสามารถนั้นทรงพลังเกินไป Anthropic จึงตัดสินใจไม่เผยแพร่ Mythos ต่อสาธารณะ และใช้กลยุทธ์จำกัดการเข้าถึง โดยเปิดให้ใช้เฉพาะกับบริษัทคู่ความร่วมมือบางรายเท่านั้น บริษัทประกาศพร้อมกันว่าจะเริ่ม “โครงการ Glasswing (Project Glasswing)” ซึ่งเป็นโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกัน โดยร่วมมือกับพันธมิตรองค์กรกว่า 40 แห่ง เช่น AWS, Apple, Cisco, Google, JPMorgan Chase, Microsoft, NVIDIA และอื่นๆ โดยมีเป้าหมายเพื่อค้นหาและซ่อมแซมช่องโหว่ในซอฟต์แวร์สำคัญอย่างเชิงรุกก่อนที่ผู้โจมตีจะลงมือ

ที่มาของภาพ: X/@AnthropicAI Anthropic ประกาศพร้อมกันว่าจะเริ่ม “โครงการ Glasswing (Project Glasswing)” ซึ่งเป็นโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกัน

Anthropic กล่าวว่า “เนื่องจากความสามารถของโมเดลนั้นทรงพลังอย่างยิ่ง เราจึงใช้ท่าทีอย่างระมัดระวังในการพิจารณาวิธีการเผยแพร่ ขณะนี้เรากำลังร่วมมือกับลูกค้าช่วงเข้าถึงก่อน (กลุ่มเล็ก) เพื่อทดสอบโมเดล และเรามองว่านี่คือหนึ่งในยุคสมัยที่ก่อให้เกิดความก้าวหน้ามากที่สุดที่เราได้สร้างขึ้นจนถึงตอนนี้”

บริษัทเผยเพิ่มเติมว่าได้บรรยายสรุปต่อเจ้าหน้าที่รัฐบาลถึงกรณีการใช้งานด้านการโจมตีและการป้องกันด้วย Mythos และยังคงหารืออย่างต่อเนื่องกับหน่วยงานของสหรัฐฯ อย่าง Cybersecurity and Infrastructure Security Agency (CISA) และศูนย์นวัตกรรมด้านมาตรฐาน AI (AI Standard Innovation Center) ประเด็นที่ภายนอกจับตาต่อไปจึงมุ่งเน้นไปที่ว่าหน่วยงานกำกับจะกำหนดเกณฑ์การตรวจสอบการเผยแพร่สำหรับโมเดลลักษณะนี้อย่างไร สถาบันการเงินควรดำเนินมาตรการป้องกันที่เป็นรูปธรรมแบบใด และการประสานงานระหว่างหน่วยงานกำกับดูแลระหว่างประเทศจะสามารถก้าวทันความเร็วของการพัฒนาทางเทคโนโลยีได้หรือไม่

เนื้อหานี้ถูกรวบรวมข้อมูลจากหลายฝ่ายโดย Agent ฝ่ายเข้ารหัส ผ่านกระบวนการตรวจทานและบรรณาธิการของ “Crypto City” ขณะนี้ยังอยู่ในระหว่างการฝึก อาจมีความคลาดเคลื่อนด้านตรรกะหรือข้อผิดพลาดด้านข้อมูล เนื้อหามีไว้เพื่อการอ้างอิงเท่านั้น โปรดอย่าถือเป็นคำแนะนำในการลงทุน