รัฐมนตรีคลังสหรัฐและประธานธนาคารกลางสหรัฐ (Federal Reserve) เรียกประชุมฉุกเฉินบรรดาผู้บริหารระดับสูงของวอลล์สตรีท เพื่อตอบสนองคำเตือนจากโมเดลล่าสุดของ Anthropic ที่ชื่อ Mythos เจ้าหน้าที่ได้จัดให้โมเดลนี้เป็นความเสี่ยงเชิงระบบต่อระบบการเงิน
ผู้บริหารด้านการเงินเรียกประชุมฉุกเฉินกับผู้บริหารระดับสูงของวอลล์สตรีท ขีดขั้นภัยคุกคามจากเครือข่าย AI เพิ่มเป็นความเสี่ยงเชิงระบบ
ตามรายงานของ Bloomberg รัฐมนตรีว่าการกระทรวงการคลังสหรัฐ สก็อตต์ เบสเซนต์ (Scott Bessent) และประธานธนาคารกลางสหรัฐ เจอโรม พาวเวลล์ (Jerome Powell) ได้เรียกประชุมฉุกเฉินผู้บริหารระดับหัวหน้าธนาคารรายใหญ่ของวอลล์สตรีทในกรุงวอชิงตัน ณ สำนักงานใหญ่กระทรวงการคลังสหรัฐเมื่อสัปดาห์ก่อน เพื่อเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดลล่าสุดของบริษัท AI อย่าง Anthropic ที่ชื่อ “Claude Mythos Preview”
บรรดาผู้บริหารธนาคารที่เข้าร่วมการประชุม ได้แก่ เจน เฟรเซอร์ (Jane Fraser) ซีอีโอของ Citigroup, เท็ด พิก (Ted Pick) ซีอีโอของ Morgan Stanley, ไบรอัน โมยนีฮาน (Brian Moynihan) ซีอีโอของ Bank of America, ชาร์ลส์ ชาฟ (Charlie Scharf) ซีอีโอของ Wells Fargo และ เดวิด โซโลมอน (David Solomon) ซีอีโอของ Goldman Sachs ขณะที่ เจมี่ ไดมอน (Jamie Dimon) ซีอีโอของ JPMorgan Chase ไม่สามารถเข้าร่วมได้ สถาบันดังกล่าวล้วนถูกหน่วยงานกำกับจัดเป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ
การประชุมครั้งนี้มีรัฐมนตรีว่าการกระทรวงการคลังและประธานธนาคารกลางสหรัฐเข้าร่วมด้วยตนเอง ซึ่งถูกมองในวงการว่าเป็นเรื่องที่ผิดปกติ ในอดีต การที่รัฐบาลเข้ามาแทรกแซงความเสี่ยงด้าน AI มักอยู่ในรูปแบบคณะทำงานในระดับสถาบัน แต่คราวนี้ถูกยกระดับให้เป็นการเตือนโดยหัวหน้าฝ่ายการเงินระดับสูงสุดโดยตรง ซึ่งชี้ชัดว่าเจ้าหน้าที่ได้จัดให้ภัยคุกคามทางไซเบอร์จาก AI เป็นความเสี่ยงเชิงระบบต่อเสถียรภาพของระบบการเงินแล้ว
ความสามารถของโมเดล Mythos น่าทึ่ง สามารถตรวจพบช่องโหว่ zero-day จำนวนมากได้ด้วยตนเอง
ตามเอกสารทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos มีความสามารถในการระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักทั้งหมด ระหว่างขั้นตอนการทดสอบ โมเดลสามารถค้นพบช่องโหว่ zero-day ที่ไม่เคยรู้มาก่อนนับพันรายการด้วยตัวเอง โดยรวมถึงช่องโหว่ที่ซ่อนอยู่ในระบบปฏิบัติการโอเพนซอร์สที่มุ่งด้านความปลอดภัยอย่าง OpenBSD ที่ดำรงอยู่นานถึง 27 ปี นอกจากนี้ โมเดลยังพบช่องโหว่ในไลบรารีประมวลผลวิดีโอและเสียงอย่าง FFmpeg ซึ่งแม้จะมีการเรียกใช้ด้วยเครื่องมือทดสอบอัตโนมัติ 500 ล้านครั้ง ก็ยังไม่สามารถตรวจพบได้
นักวิจัยของ Anthropic เน้นว่า ความสามารถในการค้นพบช่องโหว่ของ Mythos มาจากความก้าวหน้าครั้งใหญ่ของโมเดลในด้านการเขียนโปรแกรม การให้เหตุผล และความเป็นอิสระ ไม่ใช่ผลจากการฝึกโดยเจตนา
บริษัทระบุในแถลงการณ์ว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นในการซ่อม/อุดช่องโหว่ ก็ทำให้มันมีประสิทธิภาพมากขึ้นในการใช้ประโยชน์จากช่องโหว่ด้วยเช่นกัน” คำพูดนี้สะท้อนความเป็นสองด้านของ Mythos เส้นแบ่งระหว่างการป้องกันและการโจมตีแทบเลือนหายไปต่อหน้าโมเดลลักษณะนี้
Anthropic ปฏิเสธที่จะเปิดเผยต่อสาธารณะ เปิดตัว “โครงการปีกแก้ว” เพื่อจำกัดขอบเขตการเข้าถึง
เนื่องจากความสามารถแข็งแกร่งเกินไป Anthropic จึงตัดสินใจไม่เผยแพร่ Mythos ต่อสาธารณะ ใช้กลยุทธ์จำกัดการเข้าถึง โดยเปิดให้ใช้เฉพาะบริษัทคู่สัญญาบางแห่งเท่านั้น บริษัทได้ประกาศพร้อมกันถึงการเปิดตัวโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อ “โครงการปีกแก้ว” (Project Glasswing) โดยทำงานร่วมกับพาร์ทเนอร์กว่า 40 แห่ง ได้แก่ AWS แอปเปิล Cisco Google JPMorgan Chase Microsoft NVIDIA และอื่นๆ เป้าหมายคือค้นหาและอุดช่องโหว่ในซอฟต์แวร์สำคัญเชิงรุก ก่อนที่ผู้โจมตีจะลงมือ
แหล่งที่มาของภาพ: X/@AnthropicAI Anthropic ประกาศพร้อมกันถึงการเปิดตัวโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อ “โครงการปีกแก้ว” (Project Glasswing)
Anthropic ระบุว่า: “เนื่องจากความสามารถของโมเดลนั้นแข็งแกร่งมาก เราจึงใช้ท่าทีที่รอบคอบในการเผยแพร่ เรากำลังทำงานร่วมกับลูกค้าระยะเริ่มต้นกลุ่มเล็กเพื่อทดสอบโมเดล และเชื่อว่านี่คือรุ่นที่ล้ำหน้าที่สุดที่เราได้สร้างขึ้นจนถึงตอนนี้”
บริษัทเผยเพิ่มเติมว่าได้บรรยายสรุปแก่เจ้าหน้าที่รัฐบาลเกี่ยวกับสถานการณ์การใช้งานด้านการรุกและการรับมือของ Mythos และยังคงหารือร่วมกับหน่วยงานความปลอดภัยทางไซเบอร์และโครงสร้างพื้นฐานของสหรัฐ (CISA) รวมถึงศูนย์นวัตกรรมมาตรฐานด้าน AI ภายหลัง แง่มุมที่สังคมจับตาจะกระจุกอยู่ที่ว่าหน่วยงานกำกับดูแลจะกำหนดมาตรฐานการทบทวนการเผยแพร่สำหรับโมเดลลักษณะดังกล่าวอย่างไร สถาบันการเงินควรใช้มาตรการป้องกันที่เป็นรูปธรรมอะไรบ้าง และการประสานงานระหว่างหน่วยงานกำกับดูแลระหว่างประเทศจะสามารถก้าวทันความเร็วของการพัฒนาทางเทคโนโลยีได้หรือไม่
เนื้อหาในบทความนี้ถูกรวบรวมโดย Agent ฝั่งการเข้ารหัส รวบรวมข้อมูลและผ่านการตรวจแก้โดย《加密城市》ขณะนี้ยังอยู่ในขั้นตอนการฝึก อาจมีความคลาดเคลื่อนด้านตรรกะหรือความผิดพลาดด้านข้อมูล เนื้อหามีไว้เพื่อประกอบการพิจารณาเท่านั้น โปรดอย่าถือเป็นคำแนะนำในการลงทุน
