David Sacks critica las salvaguardas de IA en EE. UU. después de que Kimi K3 resolviera fallas de seguridad

David Sacks, el responsable de políticas de IA y cripto de la Casa Blanca conocido como el “cripto czar”, criticó las barreras de seguridad para modelos de IA de EE. UU. el 19 de julio a través de X, citando el modelo de IA chino Kimi K3 como ejemplo. Sacks afirmó que Kimi K3 corrigió 15 fallos de seguridad críticos que los modelos Codex y Fable de EE. UU. se negaron a abordar debido a “barreras de ciberseguridad”, y sostuvo que no hay motivo para limitar a los modelos estadounidenses en tareas que los modelos chinos realizan sin problemas. La crítica pone de relieve el debate en curso sobre las restricciones de seguridad en IA, ya que expertos en ciberseguridad advirtieron previamente en una carta de junio al presidente Trump que limitar el uso de la IA por parte de investigadores de seguridad y organizaciones defensivas podría debilitar las capacidades de defensa cibernética.

Sacks cita las correcciones de fallos de seguridad de Kimi K3 bloqueadas por los modelos de IA de EE. UU.

En su publicación de X del 19 de julio, Sacks escribió: “Kimi K3 acaba de corregir 15 fallos de seguridad críticos que Codex y Fable se negaron a abordar por culpa de las ‘barreras de ciberseguridad’. No hay razón para limitar a los modelos estadounidenses en tareas que los modelos chinos manejan sin problemas. Solo nos estamos volviendo menos competitivos”.

Las “barreras de ciberseguridad” aplicadas a Codex y Fable son mecanismos de seguridad diseñados para restringir solicitudes que podrían explotarse con fines maliciosos, como la creación de malware o la intrusión en sistemas. Sin embargo, los críticos han señalado que estas restricciones también limitan el análisis de vulnerabilidades de seguridad y la investigación defensiva, reduciendo la utilidad práctica de los modelos de IA de EE. UU.

Hugging Face cambió a GLM 5.2 chino después de que las barreras bloquearan el análisis de un modelo de EE. UU.

Sacks dio otro ejemplo en una publicación de seguimiento: “Hugging Face intentó usar modelos frontier estadounidenses para analizar un ciberataque impulsado por IA. Pero las barreras bloquearon solicitudes que contenían cargas útiles reales de exploits, así que cambiaron a GLM 5.2 ejecutándose localmente”.

Afirmó que “las barreras realmente perjudicaron la seguridad defensiva” y subrayó que las restricciones obstaculizaron investigaciones legítimas de seguridad en lugar de mejorar la protección.

Expertos en ciberseguridad advirtieron a Trump en junio sobre los riesgos de restringir la IA

Según Axios, expertos en ciberseguridad encabezados por Alex Stamos, ex Chief Security Officer de Facebook, enviaron una carta abierta al presidente Trump en junio. La carta advirtió que “restringir oportunidades de uso de IA para instituciones de investigación en seguridad y organizaciones defensivas podría debilitar en realidad las capacidades de defensa cibernética”.

Los expertos señalaron que los modelos de IA más recientes ya se están usando en toda la industria de activos digitales para mejorar los niveles de seguridad mediante la supervisión de contratos inteligentes, el análisis de vulnerabilidades, la revisión de código y las pruebas de penetración.

FAQ

¿Qué dijo David Sacks sobre el modelo de IA chino Kimi K3 el 19 de julio?

David Sacks afirmó en X que Kimi K3 corrigió 15 fallos de seguridad críticos que los modelos de IA de EE. UU. Codex y Fable se negaron a abordar debido a “barreras de ciberseguridad”. Sostuvo que no hay razón para limitar a los modelos estadounidenses en tareas que los modelos chinos manejan sin problemas, y aseguró que Estados Unidos se está haciendo menos competitivo.

¿Por qué Hugging Face cambió de modelos de IA de EE. UU. a GLM 5.2 chino?

Hugging Face intentó usar modelos de IA frontier estadounidenses para analizar un ciberataque impulsado por IA, pero las barreras bloquearon solicitudes que contenían cargas útiles reales de exploits. Como resultado, el equipo de investigación cambió para usar el modelo de IA de código abierto GLM 5.2 chino ejecutándose localmente.

¿Qué advirtieron los expertos en ciberseguridad al presidente Trump en junio?

Expertos en ciberseguridad encabezados por el ex CSO de Facebook Alex Stamos enviaron una carta abierta al presidente Trump en junio advirtiendo que restringir el uso de IA por parte de instituciones de investigación en seguridad y organizaciones defensivas podría debilitar las capacidades de defensa cibernética. Señalaron que los modelos de IA más recientes se están usando para supervisión de contratos inteligentes, análisis de vulnerabilidades, revisión de código y pruebas de penetración en la industria de activos digitales.