Musk declara que xAI usó modelos de OpenAI para entrenar Grok

Elon Musk testificó el jueves en una corte federal de California que su empresa de inteligencia artificial xAI utilizó en parte modelos de OpenAI mientras entrenaba su chatbot Grok, según TechCrunch. El reconocimiento representa un raro acuse público por parte de un gran desarrollador de IA de una práctica que está bajo una creciente atención. Musk hizo la declaración durante su demanda en curso contra OpenAI, el CEO Sam Altman y el cofundador Greg Brockman, donde el juicio comenzó esta semana.

Contexto de la demanda y testimonio

Musk demanda a OpenAI por el cambio de la compañía respecto a su misión original sin fines de lucro. Durante el interrogatorio en el proceso judicial federal, a Musk le preguntaron si xAI utilizó técnicas de destilación en modelos de OpenAI. Según se informa, dijo que la respuesta era “parcialmente” y describió el enfoque como una práctica más amplia de la industria.

Musk cofundó OpenAI en 2015 con Sam Altman, Greg Brockman, Ilya Sutskever, John Schulman y Wojciech Zaremba como una organización sin fines de lucro enfocada en desarrollar inteligencia artificial para el beneficio de la humanidad. Musk dejó la compañía en 2018.

¿Qué es la destilación?

La destilación se refiere a entrenar un nuevo sistema de IA consultando un modelo existente a través de su interfaz pública o API y usando sus salidas como señales de aprendizaje. El testimonio de Musk indica que el método se está utilizando por empresas de IA con sede en EE. UU., no solo por competidores extranjeros.

En febrero, Anthropic acusó a varios desarrolladores chinos de IA de usar cuentas fraudulentas para extraer grandes volúmenes de respuestas de su chatbot Claude con el fin de entrenar sistemas competidores. A principios de este mes, la Casa Blanca advirtió sobre campañas de “escala industrial” que emplean cuentas proxy y jailbreaks para replicar capacidades de IA de EE. UU.

El estatus legal sigue sin estar claro

Los límites legales en torno a la destilación siguen sin estar claros. La destilación no es ilegal explícitamente, pero puede generar preguntas sobre si viola las reglas de la plataforma o los términos que rigen el uso de la API.

Contexto de mercado

Lanzada en julio de 2023, xAI entró en un mercado que ya incluía a Google, Microsoft y OpenAI, empresas con equipos más grandes e infraestructura más establecida. A comienzos de ese año, Musk y otras figuras de la tecnología firmaron una carta abierta en la que pidieron una pausa de seis meses en el desarrollo de sistemas de IA más avanzados, citando riesgos potenciales. Los comentarios de Musk sugieren que la empresa podría haber usado la tecnología de su antigua compañía para cerrar la brecha.

OpenAI y xAI no respondieron de inmediato a las solicitudes de comentarios.