El equipo del motor de inferencia de código abierto SGLang completa una financiación semilla de 100 millones de dólares, liderada por Accel

Según la monitorización de Beating, el equipo detrás del motor de inferencia de código abierto SGLang ha establecido oficialmente la empresa RadixArk, completando una financiación semilla de 100 millones de dólares, con una valoración post-inversión de 400 millones de dólares. Accel lideró la inversión, Spark Capital fue co-líder, Nvidia (a través de NVentures) y AMD, dos competidores en chips, también participaron, y MediaTek también forma parte de los inversores.

SGLang es una capa intermedia entre el modelo y el hardware, que reduce los costos de inferencia de IA mediante una gestión más eficiente de la memoria de la tarjeta gráfica. El proyecto se inició en 2023 y actualmente procesa decenas de billones de tokens diariamente para Google, Microsoft, Nvidia, Oracle, xAI, entre otros. RadixArk también opera otro proyecto de código abierto llamado Miles, enfocado en entrenamiento de aprendizaje reforzado a gran escala, que ya se ha utilizado para entrenar MoE (mezcla de expertos, una arquitectura de modelo que activa solo una parte de los parámetros para reducir el cálculo).

La empresa fue fundada por Banghua Zhu y Ying Sheng. La financiación se utilizará para ampliar ambos proyectos de código abierto, soportar más arquitecturas de modelos y plataformas de hardware, y lanzar servicios de infraestructura gestionada para empresas.