Según el CEO de Perplexity, Aravind Srinivas, en una entrevista con CNBC, la industria de la IA está pasando de priorizar la escala de los modelos a la eficiencia en costes y a la optimización específica para cada tarea. Las empresas están construyendo sistemas de orquestación que seleccionan automáticamente el modelo más adecuado para cada tarea, en lugar de usar el modelo más potente para todas las aplicaciones. Las aplicaciones de atención al cliente quizá no necesiten modelos caros, mientras que las tareas complejas de programación requieren modelos de mayor nivel, y el trabajo empresarial rutinario puede gestionarse con modelos open-source de menor coste.
Esta semana, Perplexity mostró un nuevo sistema de “uso de ordenadores” impulsado por el modelo open-source GLM 5.2 de la empresa china de IA Zhipu, reflejando la tendencia hacia arquitecturas híbridas de IA. El socio de benchmarks Peter Fenton prevé que más del 90 % de los tokens de IA podrían generarse con modelos open-source en 18 a 24 meses. El CEO de Ollama, Jeff Morgan, reveló que más del 85 % de las empresas de Fortune 500 ya usan la plataforma de gestión de modelos open-source de Ollama, incluidos sectores altamente regulados como la aviación, el seguro y la sanidad.