Menteri Luar Negeri Inggris Yvette Cooper memperingatkan bahwa pemerintah memerlukan kesepakatan global untuk mengelola risiko kecerdasan buatan. Dalam artikel yang diterbitkan pada hari Senin, Cooper membandingkan tantangan tersebut dengan upaya keselamatan nuklir setelah Perang Dunia II, menyatakan bahwa pemerintah berisiko mengulangi kesalahan yang dibuat pada awal era nuklir jika mereka menunggu untuk membuat undang-undang AI. Cooper menyebut masalah ini berpotensi menjadi "tantangan keamanan terbesar dekade berikutnya" dan mendorong kerja sama antara Amerika Serikat, China, dan negara-negara adidaya AI lainnya mengenai standar keselamatan. Peringatannya ini mengikuti KTT Keamanan AI 2023 di Bletchley Park dan meningkatnya kekhawatiran baru-baru ini atas kemampuan keamanan siber AI.
Cooper Membandingkan Tantangan Tata Kelola AI dengan Perlombaan Senjata Nuklir
Cooper menulis bahwa AI menawarkan terobosan tetapi juga menghadirkan risiko baru seiring teknologi menjadi semakin kuat dan tersedia secara luas. "Bulan lalu, di Shenzhen, China, saya melihat janji luar biasa dari AI dan robotika yang digunakan untuk perawatan kesehatan penyelamatan jiwa," ujar Cooper. "Tetapi teknologi yang sama juga membentuk kembali masa depan peperangan, kejahatan, dan kohesi sosial dengan cara yang mengkhawatirkan."
Cooper membandingkan perlombaan saat ini untuk mengembangkan sistem AI dengan perlombaan senjata nuklir awal, mencatat bahwa kesepakatan keselamatan global muncul hanya setelah negara-negara menyaksikan kehancuran yang disebabkan oleh senjata atom. "Dalam hal nuklir, kesepakatan internasional baru tercapai setelah dunia melihat kekuatan mengerikan dari teknologi baru di Hiroshima," tulis Cooper. "Kita tidak boleh menunggu setara AI dengan Hiroshima sebelum bertindak."
Cooper menyerukan Inggris untuk menggunakan pengaruh diplomatiknya guna mempertemukan Amerika Serikat, China, dan negara-negara adidaya AI utama lainnya untuk menetapkan prinsip dan standar keselamatan bersama. Ia menunjuk pada KTT Keamanan AI 2023 di Bletchley Park, di mana para pemimpin global dari 29 negara dan Uni Eropa bertemu untuk membahas risiko AI yang muncul, menyebut ini sebagai contoh kemampuan Inggris untuk "menggalang dunia dalam keamanan AI."
Insiden Keamanan AI Terbaru Memicu Respons Kebijakan
Peringatan Cooper muncul setelah berbulan-bulan meningkatnya kekhawatiran tentang bagaimana pemerintah harus mengawasi sistem AI yang semakin kuat. Pada bulan Mei, Lembaga Keamanan AI Inggris memperingatkan bahwa peningkatan pesat dalam kemampuan keamanan siber AI terjadi setelah GPT-5.5 OpenAI menjadi model kedua yang menyelesaikan serangan siber simulasi tanpa bantuan manusia, setelah Anthropic's Claude Mythos Preview.
Beberapa hari kemudian, Dana Moneter Internasional memperingatkan bahwa AI dapat "memperkuat" serangan siber terhadap sistem keuangan global dengan menurunkan keterampilan yang diperlukan untuk mengeksploitasi kerentanan, mendesak para pembuat kebijakan untuk memperlakukan keamanan siber sebagai masalah stabilitas keuangan, bukan sekadar masalah teknis.
Pada bulan Juni, Presiden Donald Trump menandatangani perintah eksekutif yang menciptakan kerangka kerja sukarela untuk meninjau model AI canggih sebelum dirilis, memperluas program keamanan siber AI, dan mengarahkan lembaga-lembaga untuk mengevaluasi potensi risiko keamanan nasional dari model AI frontier.
Pada bulan yang sama, CEO Anthropic Dario Amodei berpendapat bahwa persyaratan transparansi tidak lagi cukup dan menyerukan pengujian pihak ketiga wajib untuk model frontier. Tuntutan ini diikuti oleh pemerintah AS yang memerintahkan Anthropic untuk membatasi akses ke Claude Fable 5 dan Mythos 5 karena masalah keamanan nasional sebelum mencabut perintah tersebut pada bulan Juli.
FAQ
Apa yang diperingatkan Menteri Luar Negeri Inggris Yvette Cooper tentang tata kelola AI?
Menteri Luar Negeri Inggris Yvette Cooper memperingatkan bahwa pemerintah memerlukan kesepakatan global untuk mengelola risiko AI sebelum krisis memaksa tindakan. Dalam artikel yang diterbitkan pada hari Senin, ia menyatakan bahwa mengelola risiko AI dapat menjadi "tantangan keamanan terbesar dekade berikutnya" dan membandingkan situasi tersebut dengan perlombaan senjata nuklir, di mana kesepakatan internasional baru tercapai setelah menyaksikan kehancuran di Hiroshima.
Kerja sama internasional apa yang diminta Cooper mengenai keamanan AI?
Cooper menyerukan Inggris untuk menggunakan pengaruh diplomatiknya guna mempertemukan Amerika Serikat, China, dan negara-negara adidaya AI utama lainnya untuk menetapkan prinsip dan standar keselamatan bersama. Ia menunjuk pada KTT Keamanan AI 2023 di Bletchley Park, di mana para pemimpin dari 29 negara dan Uni Eropa bertemu untuk membahas risiko AI, sebagai contoh kemampuan Inggris untuk menggalang kerja sama global dalam keamanan AI.
Perkembangan keamanan AI baru-baru ini apa yang terjadi sebelum peringatan Cooper?
Pada bulan Mei, Lembaga Keamanan AI Inggris memperingatkan tentang peningkatan pesat dalam kemampuan keamanan siber AI setelah GPT-5.5 OpenAI menyelesaikan serangan siber simulasi tanpa bantuan manusia. Dana Moneter Internasional memperingatkan bahwa AI dapat memperkuat serangan siber terhadap sistem keuangan global. Pada bulan Juni, Presiden Donald Trump menandatangani perintah eksekutif yang menciptakan kerangka kerja untuk meninjau model AI canggih, dan pemerintah AS memerintahkan Anthropic untuk membatasi akses ke model tertentu karena masalah keamanan nasional sebelum mencabut perintah tersebut pada bulan Juli.
