Anthropic CEO Dario Amodei Urges Binding AI Safety Rules As Advancement Outpaces Policy

Pada 10 Juni, CEO Anthropic Dario Amodei memublikasikan esai yang memperingatkan bahwa pengembangan AI berjalan jauh lebih cepat daripada sistem politik yang mampu merespons, sehingga menciptakan kesenjangan tata kelola yang mendesak. Ia mengusulkan sebuah kerangka kerja yang mewajibkan pengujian pihak ketiga untuk model-model canggih sebelum diterapkan, dengan evaluasi untuk risiko keamanan siber, penyalahgunaan biologis, dan skenario hilangnya kendali. Pemerintah seharusnya mempertahankan kewenangan untuk menunda atau memblokir penerapan jika risikonya dinilai tidak dapat diterima.

Amodei juga menyoroti risiko gangguan ekonomi, dengan mencatat bahwa AI yang sangat kuat dapat menggantikan sejumlah besar pekerja melalui substitusi pekerjaan berbasis kognitif, berpotensi menghasilkan pertumbuhan yang cepat di samping ketimpangan yang persisten. Ia menyerukan langkah kebijakan termasuk dukungan bagi tenaga kerja, asuransi upah, dan program pelatihan ulang. Selain itu, ia menekankan perlunya demokrasi untuk berkoordinasi pada rantai pasok AI, standar keselamatan, dan kebijakan ekonomi, dengan membandingkan pentingnya geopolitik AI dengan tenaga nuklir.