Musk sagt aus, xAI habe OpenAI-Modelle verwendet, um Grok zu trainieren

Elon Musk sagte am Donnerstag in einem Bundesgericht in Kalifornien aus, dass seine Künstliche-Intelligenz-Firma xAI beim Training seines Grok-Chatbots teilweise OpenAI-Modelle verwendet habe, wie TechCrunch berichtet. Diese Einräumung stellt ein seltenes öffentliches Zugeständnis eines großen KI-Entwicklers zu einer Praxis dar, die zunehmend genauer unter die Lupe genommen wird. Musk machte die Aussage im Rahmen seiner laufenden Klage gegen OpenAI, CEO Sam Altman und den Mitgründer Greg Brockman, deren Prozess diese Woche begonnen hat.

Klagekontext und Aussage

Musk verklagt OpenAI wegen der Abkehr des Unternehmens von seiner ursprünglichen gemeinnützigen Mission. In der Vernehmung im laufenden Verfahren wurde Musk gefragt, ob xAI Distillationstechniken auf OpenAI-Modellen eingesetzt habe. Er habe Berichten zufolge geantwortet, das sei „teilweise“ gewesen, und den Ansatz als eine breitere Branchenpraxis beschrieben.

Musk war 2015 Mitgründer von OpenAI zusammen mit Sam Altman, Greg Brockman, Ilya Sutskever, John Schulman und Wojciech Zaremba. Das Unternehmen war als gemeinnützige Organisation darauf ausgerichtet, Künstliche Intelligenz zum Nutzen der Menschheit zu entwickeln. Musk verließ die Firma 2018.

Was ist Distillation?

Unter Distillation versteht man, ein neues KI-System zu trainieren, indem man ein bestehendes Modell über dessen öffentliche Schnittstelle oder API abfragt und die Ausgaben als Lernsignale nutzt. Musks Aussage deutet darauf hin, dass die Methode von in den USA ansässigen KI-Unternehmen eingesetzt wird – nicht nur von ausländischen Wettbewerbern.

Im Februar warf Anthropic mehreren chinesischen KI-Entwicklern vor, betrügerische Konten zu verwenden, um große Mengen an Antworten aus seinem Claude-Chatbot abzuschöpfen und damit konkurrierende Systeme zu trainieren. Anfang dieses Monats warnte das Weiße Haus vor „Kampagnen im industriellen Maßstab“ mit Proxy-Konten und Jailbreaks, um US-amerikanische KI-Fähigkeiten zu replizieren.

Rechtslage bleibt unklar

Die rechtlichen Grenzen rund um Distillation bleiben unklar. Distillation ist nicht ausdrücklich illegal, kann aber die Frage aufwerfen, ob sie gegen Plattformregeln oder die Bedingungen für die Nutzung von APIs verstößt.

Markt-Kontext

xAI, das im Juli 2023 gestartet ist, betrat einen Markt, der bereits Unternehmen wie Google, Microsoft und OpenAI umfasste – Firmen mit größeren Teams und besser etablierter Infrastruktur. Noch in diesem Jahr hatten Musk und andere Tech-Größen einen offenen Brief unterzeichnet, in dem sie zu einer sechmonatigen Pause bei der Entwicklung weiterer, fortschrittlicherer KI-Systeme aufriefen und potenzielle Risiken anführten. Musks Äußerungen deuten darauf hin, dass das Unternehmen möglicherweise die Technologie seines früheren Unternehmens genutzt hat, um die Lücke zu schließen.

OpenAI und xAI reagierten nicht umgehend auf Anfragen nach einem Kommentar.