Am 14. Mai veröffentlichte Epoch AI, eine gemeinnützige KI-Forschungseinrichtung, den neuesten Bericht, in dem darauf hingewiesen wird, dass es für KI-Unternehmen schwierig ist, weiterhin enorme Leistungssteigerungen aus Inferenzmodellen herauszuholen, und dass sich der Fortschritt von Inferenzmodellen frühestens innerhalb eines Jahres verlangsamen wird. Basierend auf öffentlich zugänglichen Daten und Annahmen hebt der Bericht die Einschränkungen der Rechenressourcen und den Anstieg des Forschungsaufwands hervor. Die KI-Branche hat sich lange auf diese Modelle verlassen, um die Benchmark-Leistung zu verbessern, aber diese Abhängigkeit wird in Frage gestellt. Josh You, ein Analyst der Agentur, wies darauf hin, dass der Aufstieg von Inferenzmodellen auf ihre hervorragende Leistung bei bestimmten Aufgaben zurückzuführen ist. Das O3-Modell von OpenAI zum Beispiel hat sich in den letzten Monaten auf die Verbesserung der Mathematik- und Programmierkenntnisse konzentriert. Diese Inferenzmodelle verbessern die Leistung, indem sie Rechenressourcen hinzufügen, um Probleme zu lösen, aber auf Kosten des höheren Rechenaufwands für die Verarbeitung komplexer Aufgaben benötigen diese Inferenzmodelle länger als herkömmliche Modelle.