OpenAI представила GPT-Red, чтобы усилить GPT-5.6 против атак с внедрением подсказок

2026-07-15 20:51:54

По данным OpenAI, компания в среду представила GPT-Red — автоматизированную систему ИИ для red-teaming, предназначенную для выявления уязвимостей в языковых моделях до развертывания. GPT-Red применялась для обучения GPT-5.6, что снизило количество сбоев на бенчмарках для prompt injection. OpenAI сообщила, что GPT-Red добилась успеха в 84% внутренних сценариев оценки по сравнению с 13% у команд людей red team в тех же тестах. Система работает на основе self-play reinforcement learning: она генерирует атаки, которые становятся все более сильными, а модели защитников учатся им противостоять. OpenAI заявила, что GPT-Red останется внутренним инструментом из-за специально разработанных наступательных возможностей.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

20ч назад

Codex и ChatGPT: активные пользователи достигли 8 миллионов, рост на 2 миллиона за два дня

21ч назад

ChatGPT испытывает сбои сервиса 15 июля, доля ошибок резко возрастает

07-14 08:39

OpenAI представляет модели GPT-5.6 (Sol, Terra, Luna); ограниченный доступ изначально, более широкое распространение ожидается

07-14 06:12

B.AI запускает модели GPT-5.6 для веб-чата и API

07-14 01:05

OpenAI выпустила руководство по подсказкам GPT-5.6, призывающее избегать чрезмерных промптов, 14 июля

Детальный анализ