Восстания запускают AI-модель A.X K1 от SK Telecom на серверах NPU в стране производства

Восстания, южнокорейская компания в сфере ИИ-полупроводников, успешно запустила сверхкрупную ИИ-модель A.X K1 компании SK Telecom на домашних серверах с блоками нейронной обработки (NPU). Об этом компания объявила 23-го числа. Используя собственный ИИ-сервер «Rebel Server», Rebellions стабильно выполняла модель с более чем 500 миллиардами параметров и продемонстрировала сервис ИИ-агента, который одновременно обрабатывает несколько запросов пользователей. Достижение подтверждает возможность работы крупномасштабных ИИ-сервисов исключительно на базе отечественных ИИ-моделей и инфраструктуры NPU, позиционируя это как практический пример суверенных ИИ-возможностей. Rebellions является участником консорциума под эгидой SK Telecom в проекте Министерства науки и ИКТ по независимым моделям ИИ, отвечая за демонстрацию ИИ-инфраструктуры на основе отечественных NPU.

Rebellions оптимизирует ПО под архитектуру MoE и параллельную обработку

A.X K1 использует архитектуру Mixture of Experts (MoE), которая избирательно задействует только необходимые специализированные модели, чтобы повысить вычислительную эффективность крупномасштабных моделей. Rebellions оптимизировала специализированное ПО для MoE-модели и применила технологию распределения различных операций по NPU для параллельной обработки. Это позволило одному серверу обрабатывать несколько пользовательских запросов в реальном времени. Компания заявила, что один Rebel Server обеспечивает производительность инфраструктуры, сопоставимую с глобальными серверами на высокопроизводительных графических процессорах (GPU), снижая нагрузку на строительство дата-центров и операционные издержки.

Rebel Server демонстрирует сервис ИИ-агента в реальном времени для нескольких пользователей

В ходе демонстрации Rebellions показала агентный сервис, в котором пользователи могли задавать вопросы вроде «какие аптеки доступны по выходным» и получать результаты, отображаемые на карте. Система обрабатывала ответы в реальном времени даже в условиях, когда несколько пользователей одновременно вводили разные вопросы. Демонстрация подтвердила способность сервера устойчиво обрабатывать конкурентные нагрузки многопользовательского режима.

Rebellions участвует в государственном проекте по базовым моделям ИИ

Пак Сон-хён, генеральный директор Rebellions, заявил: «Это практический пример суверенного ИИ, показывающий, что крупномасштабные ИИ-сервисы можно эксплуатировать, используя только отечественные сверхкрупные модели и отечественные NPU». Rebellions участвует как член консорциума под эгидой SK Telecom в проекте Министерства науки и ИКТ по независимым базовым моделям ИИ, где отвечает за демонстрацию ИИ-инфраструктуры на основе отечественных NPU.

Часто задаваемые вопросы

Чего удалось добиться Rebellions с моделью A.X K1 от SK Telecom?

Rebellions успешно запустила ИИ-модель A.X K1 от SK Telecom, в которой более 500 миллиардов параметров, на своем отечественном NPU-основанном Rebel Server. Компания продемонстрировала сервис ИИ-агента, который в реальном времени обрабатывает несколько пользовательских запросов одновременно.

Как Rebel Server от Rebellions эффективно работает с крупными ИИ-моделями?

Rebel Server оптимизирует ПО под архитектуру Mixture of Experts (MoE), используемую в A.X K1, распределяя различные операции по NPU для параллельной обработки. Это позволяет одному серверу достигать производительности инфраструктуры, сопоставимой с глобальными серверами на высокопроизводительных GPU, при обработке нескольких запросов пользователей в реальном времени.