За Beating, OpenRouter запустив серверний агентний інструмент «openrouter:subagent» у бета-тестуванні. Він дає змогу великим мовним моделям делегувати підзадачі меншим, дешевшим і швидшим альтернативним моделям під час генерації контенту. Коли основна модель стикається із самодостатніми завданнями, які не потребують її повного набору можливостей — зокрема підсумовування документів, витяг структурованих даних, підготовка шаблонів і форматування тексту — вона може викликати інструмент, вказавши назву завдання та його опис. Делеговане завдання виконує модель-воркер, яка повертає результат до основної моделі для інтеграції.
Моделі-воркери можуть бути будь-якими моделями, що підтримуються OpenRouter, і успадковують основну модель, якщо явно не вказано інше. Вони можуть отримувати доступ до серверних інструментів, як-от вебпошук і вебскрейпінг, для багатокрокових міркувань перед створенням остаточного результату. Щоб запобігти нескінченній рекурсії та перевищенню витрат через вкладені виклики, OpenRouter запровадив подвійні запобіжники: заборону самопосилань у визначеннях інструментів і примусове обмеження максимальної глибини вкладення через заголовки запитів, а також обмеження загальної кількості виконань завдань на один запит API.
Пов’язані новини