El CEO de Anthropic niega que esté promoviendo prohibir los modelos de IA de código abierto

El CEO de Anthropic, Dario Amodei, publicó el lunes una entrada de blog en la que afirma que su empresa nunca ha abogado por una prohibición de los modelos de IA de código abierto, en respuesta a las críticas en toda la industria tecnológica. La declaración llegó después de que a finales de la semana pasada una coalición de empresas tecnológicas, incluidas Nvidia, Microsoft, Meta y Palantir, publicara una carta en la que pedía a los responsables de la formulación de políticas que evitaran restricciones prematuras sobre modelos de código abierto, es decir, modelos que los usuarios pueden descargar, modificar y ejecutar en su propia infraestructura. El debate se centra en si los modelos de código abierto desarrollados en China, que actualmente dominan el mercado, deberían enfrentar restricciones en EE. UU., y algunos funcionarios del gobierno valoran posibles prohibiciones.

La coalición tecnológica pide no imponer restricciones a los modelos de código abierto

Una coalición de empresas tecnológicas publicó a finales de la semana pasada una carta en la que pedía a los responsables de la formulación de políticas que evitaran restricciones prematuras sobre los modelos de código abierto. Los firmantes incluyeron Nvidia, Microsoft, Meta y Palantir. OpenAI firmó la carta después de que fuera publicada, mientras que Anthropic no la firmó. La carta indicó que las preocupaciones sobre la destilación ilegal deberían abordarse mediante marcos legales y comerciales específicos.

Amodei detalla la postura de Anthropic sobre la gobernanza de modelos de IA

Amodei escribió en la entrada de blog del lunes que Anthropic no ha abogado y no está abogando por una prohibición de los modelos de código abierto como categoría. Dijo que el enfoque debería estar en, en cambio, mantener los chips potentes fuera de manos autoritarias, detener la destilación a escala industrial y exigir pruebas de seguridad de todos los modelos suficientemente capaces, tanto abiertos como cerrados. Amodei escribió que las prohibiciones proteccionistas no abordarían sus preocupaciones más serias sobre seguridad nacional. Anthropic es mejor conocida por desarrollar una familia de modelos propietarios llamada Claude, que vende a empresas.

Anthropic alega que Alibaba realizó un ataque de destilación

Anthropic envió una carta al Comité del Senado de EE. UU. de Banca, Vivienda y Asuntos Urbanos el mes pasado, en la que alega que la empresa china Alibaba, desarrolladora de la familia de modelos Qwen, había llevado a cabo el mayor ataque de destilación conocido contra ella hasta la fecha. La destilación es un método de entrenamiento de IA en el que se crea un modelo más pequeño y menos capaz utilizando las salidas de un modelo más grande que ya está en el mercado. Amodei afirmó el lunes que está de acuerdo en que las preocupaciones sobre la destilación ilegal deberían abordarse mediante marcos legales y comerciales específicos.

Amodei identifica áreas de acuerdo y desacuerdo con la carta de la coalición

Amodei dijo que está de acuerdo con partes de la carta de la coalición, específicamente que los modelos de código abierto brindan a los clientes más control, amplían el acceso a la economía de la IA y fortalecen la competencia en algunos casos de uso. Señaló que discrepa con la idea de que los modelos de código abierto favorecen a los defensores cibernéticos frente a los atacantes, o que hacen más fácil que los usuarios desarrollen salvaguardas.

Preguntas frecuentes

¿Qué dijo el CEO de Anthropic, Dario Amodei, sobre prohibir modelos de IA de código abierto el lunes?

Dario Amodei publicó el lunes una entrada de blog en la que afirma que Anthropic nunca ha abogado por una prohibición de los modelos de IA de código abierto como categoría. Escribió que el enfoque debería estar en, en cambio, mantener los chips potentes fuera de manos autoritarias, detener la destilación a escala industrial y exigir pruebas de seguridad de todos los modelos suficientemente capaces.

¿Por qué las empresas tecnológicas publicaron una carta sobre modelos de IA de código abierto a finales de la semana pasada?

Una coalición, que incluyó a Nvidia, Microsoft, Meta y Palantir, publicó a finales de la semana pasada una carta en la que pedía a los responsables de la formulación de políticas que evitaran restricciones prematuras sobre los modelos de código abierto. La carta llegó en medio del debate sobre si los modelos de código abierto desarrollados en China, que actualmente dominan el mercado, deberían enfrentar restricciones en EE. UU.

¿Qué alegación de destilación hizo Anthropic contra Alibaba el mes pasado?

Anthropic envió una carta al Comité del Senado de EE. UU. de Banca, Vivienda y Asuntos Urbanos el mes pasado, en la que alegaba que la empresa china Alibaba, desarrolladora de la familia de modelos Qwen, había llevado a cabo el mayor ataque de destilación conocido contra Anthropic hasta la fecha.