По данным OneMillion_AI, Trajectory в сотрудничестве с лабораторией Sky Computing Lab при UC Berkeley и Anyscale недавно объявили о платформе SkyRL с открытым исходным кодом и архитектуре Multi-LoRA Training для донастройки больших языковых моделей. Система решает неэффективность традиционной оптимизации моделей за счет сохранения общей базовой модели в памяти GPU и обработки нескольких экспериментов по донастройке как легковесных модулей-адаптеров. Тестирование показало, что сквозная пропускная способность экспериментов выросла в 2,81 раза; абсолютная пропускная способность по времени на одном узле достигла улучшения в 3,25 раза, что позволяет большим моделям добиваться самосовершенствования на уровне часов благодаря данным реального производства в режиме реального времени. Обучающий код теперь доступен в репозитории SkyRL.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

05-29 10:45

OpenAI запускает программу биозащиты Rosalind для разработки новых инструментов биозащиты

05-29 10:02

Платформа оценки AI Gateway компании Check4U.ai запускается и теперь оценивает 10+ посредников

05-29 02:51

WorldClaw и VergeX на этой неделе станут партнёрами в области ИИ, чтобы создать инфраструктуру агентной торговли

05-28 14:42

Theta Labs и XYO объединяются для интеграции в блокчейн проверки AI-инфраструктуры

05-28 07:37

Собственная разработка SpaceX — фреймворк для обучения AI на языке C, версия V1.0, почти завершён для Grok v5

Детальный анализ