Американский юрист, ссылаясь на AI-галлюцинации, был подвергнут санкциям; инструмент из Thomson Reuters допускает ошибку более чем в 17% случаев

Американский адвокат Tyrone Blackburn вновь подвергся критике со стороны федерального судьи за использование поддельных цитат, сгенерированных ИИ, в судебных документах развлекательной компании Roc Nation — это уже третий случай, когда его санкционируют из‑за проблем с «галлюцинациями» ИИ. Тестирование AI-инструментов Lexis+ AI и Thomson Reuters показало, что в более чем 17% случаев появляются ошибочные сведения; в некоторых тестах частота ошибок достигала 34%.

Фальшивые цитаты, сгенерированные ИИ, в иске Roc Nation, и прошлые нарушения

（Источник：Court Listener）

Согласно приказу судьи Jennifer Willis, адвокат Tyrone Blackburn включил в поданный им оппозиционный меморандум — при защите интересов Terence Dixon (сотрудничавшего с рэп‑исполнителем Fat Joe) по иску о неправомерных действиях в сфере занятости — подозрительные цитаты, сгенерированные ИИ; Willis посчитала это поведение «серьезным нарушением его моральных и профессиональных обязательств» и указала, что объяснение Blackburn «бесстыдно смягчает» его действия.

Прошлая история нарушений Blackburn включает: в прошлом декабре он был наказан за использование примеров «ИИ‑подделок» в федеральном суде в Нью‑Джерси; федеральный судья в Пенсильвании оштрафовал его на 5 000 долларов за выдумывание ссылок.

Blackburn заявил, что ответит на судебный приказ, но при этом по‑прежнему отрицает обвинения; Roc Nation и Fat Joe также отрицают все обвинения Dixon.

Данные о глобальных «галлюцинациях» в судах ИИ: 1 667 случаев

По данным глобальной базы, которую отслеживает исследователь Damien Charlotin, статистика инцидентов «галлюцинаций» ИИ и примеры репрезентативных дел следующие:

Количество дел к середине 2026 года: 1 667 случаев (примерно в семь раз больше, чем 230 случаев годом ранее)

Дела в штате Миссисипи: четверых адвокатов лишили права представлять интересы за подачу документов с «галлюцинациями» ИИ; каждому назначили штраф 1 000–3 500 долларов; Williams и Wilson запретили выступать в суде на два года, при этом один из них заявил, что «не знал, что ИИ может выдумывать дела»

Извинения Sullivan & Cromwell: в апреле 2026 года юридическая фирма направила письмо судье с извинениями из‑за представленных в деле о банкротстве Prince Group документов с ошибками‑«галлюцинациями» — в том числе с неверными ссылками на Кодекс США о банкротстве и неправильными ссылками на судебные прецеденты

Частые вопросы

Почему адвокаты, зная о проблеме «галлюцинаций» у ИИ, продолжают использовать неподтвержденные результаты?

Согласно сообщениям, причины включают: часть адвокатов не понимает явление «галлюцинаций» ИИ (в деле штата Миссисипи один адвокат заявил: «не знал, что ИИ может выдумывать дела»); ИИ‑инструменты ежедневно используют для черновиков документов без выстроенной процедуры верификации (например, в кейсе Sullivan & Cromwell — «ИИ‑политика не была соблюдена»); а также недостаточную строгость вторичной проверки перед подачей. Американская ассоциация юристов в июне 2025 года уже предупреждала, что неподтверждение результатов ИИ может нарушать обязанность добросовестного адвокатского представительства.

Какой уровень ошибочности у юридических инструментов Thomson Reuters и Lexis+ AI?

Согласно сообщениям, тестирование AI‑инструментов Lexis+ AI и Thomson Reuters (NYSE: TRI) показало, что ошибочная информация возникает более чем в 17% случаев; в некоторых тестах частота ошибок достигала 34%. Конкретные методы тестирования и условия — в соответствующем исследовательском отчете.

Нарушает ли закон использование AI‑инструментов для подготовки юридических документов?

Согласно сообщениям, законы не запрещают адвокатам использовать ИИ; однако у них есть этическая обязанность обеспечить, чтобы все подаваемые документы были точными и корректными. В феврале 2026 года Центр по вопросам национальных судов предупредил, что «галлюцинации» ИИ представляют все более серьезную угрозу для судебной системы; ряд дел показывает, что адвокаты, не проверяющие результаты ИИ, сталкиваются с последствиями вплоть до штрафов, лишения права представительства и судебных запретов.