El CEO de Anthropic, Dario Amodei, pide reglas vinculantes de seguridad en IA a medida que el avance supera a la política

El 10 de junio, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que advirtió que el desarrollo de la IA avanza mucho más rápido que los sistemas políticos pueden responder, creando una brecha de gobernanza urgente. Propuso un marco que exige pruebas obligatorias de terceros para los modelos avanzados antes de su despliegue, con evaluaciones de riesgos de ciberseguridad, uso indebido biológico y escenarios de pérdida de control. Los gobiernos deberían conservar la autoridad para retrasar o bloquear el despliegue si se considera que los riesgos son inaceptables.

Amodei también destacó los riesgos de disrupción económica, señalando que una IA poderosa podría desplazar a grandes cantidades de trabajadores mediante la sustitución del trabajo cognitivo, lo que podría generar un crecimiento rápido junto con una desigualdad persistente. Pidió medidas de política que incluyan apoyo a la fuerza laboral, un seguro de salarios y programas de reentrenamiento. Además, subrayó la necesidad de que las democracias coordinen las cadenas de suministro de IA, los estándares de seguridad y las políticas económicas, comparando la importancia geopolítica de la IA con la de la energía nuclear.