Искусственный интеллект помогает преступности! Хакеры легко взломали правительство Мексики с помощью Anthropic Claude, украли 150GB конфиденциальных данных

Когда генеративный ИИ становится символом производительности, инцидент с хакерами, использовавшими Claude для взлома системы правительства Мексики и кражи 150 ГБ конфиденциальных данных, стал тревожным сигналом для мировой кибербезопасности: эффект «двойного меча» ИИ ускоряет развитие новых видов кибератак.
(Предыстория: собеседование на работу — ловушка для северокорейских хакеров! PurpleBravo взломала более 3 100 IP-адресов, а компании, связанные с ИИ и криптовалютами, стали их главной целью)
(Дополнительный фон: неудивительно! Северокорейские хакеры начали использовать ИИ для мошенничества, ведя «фишинг» в LinkedIn и других платформах, похищая криптовалюту)

Содержание статьи

Переключить

• Ход событий: как ИИ стал «помощником» хакеров
• Содержание утечки данных: информация о налогоплательщиках и избирателях в центре внимания
• Генеративный ИИ ускоряет преступность: наступает эпоха низкопороговых атак

По сообщению Bloomberg, хакер с помощью генеративных инструментов искусственного интеллекта успешно проник в системы нескольких государственных учреждений Мексики и похитил до 150 ГБ конфиденциальных данных. Этот инцидент был раскрыт исследовательской компанией Gambit Security, потряс международное сообщество кибербезопасности и вновь напомнил о рисках злоупотребления ИИ.

Дело показывает не только мощь генеративного ИИ на техническом уровне, но и его «двойственную природу»: повышая эффективность и производительность, он также может стать ускорителем киберпреступлений.

Ход событий: как ИИ стал «помощником» хакеров

По анализу специалистов Gambit Security, злоумышленник не полностью полагался на традиционные ручные методы написания вредоносных программ, а в значительной степени использовал Claude для автоматизации всего процесса атаки.

Сначала хакер использовал повторяющиеся «jailbreak» (взлом ограничений) подсказки, чтобы обойти встроенные системы безопасности Claude и заставить его генерировать запрещённый контент, связанный с атаками.

После обхода ограничений ИИ применялся на нескольких ключевых этапах, включая:

• сканирование и выявление потенциальных уязвимостей систем
• автоматическое создание скриптов и вредоносного кода
• автоматизацию сбора и утечки данных

Общий процесс атаки стал высоко автоматизированным, что значительно сократило время выполнения и повысило вероятность успеха. В итоге хакеры похитили из нескольких мексиканских государственных учреждений около 150 ГБ конфиденциальных файлов.

Содержание утечки данных: информация о налогоплательщиках и избирателях в центре внимания

Инцидент затронул несколько государственных ведомств, утекшие данные отличаются высокой чувствительностью и ценностью, включая личные сведения налогоплательщиков, налоговые записи и данные избирательных списков. При неправильном использовании такие данные могут привести к кражам личных данных, финансовым мошенничествам и даже повлиять на честность выборов.

На данный момент нет доказательств того, что эти данные уже были проданы или использованы, однако правительство Мексики и международные сообщества кибербезопасности уже проявляют повышенную бдительность и проводят дальнейшие расследования и меры защиты.

Генеративный ИИ ускоряет преступность: наступает эпоха низкопороговых атак

Этот случай — не единственный, а один из последних примеров «вооружения» генеративных ИИ-инструментов. Ранее хакеры должны были самостоятельно изучать уязвимости и писать код, что требовало значительных навыков; сегодня, с помощью мощных языковых моделей, даже менее технически подготовленные злоумышленники могут быстро создавать профессиональные инструменты для атак.

Исследования показывают, что ИИ не только помогает выявлять слабые места систем, но и планировать атаки и оптимизировать стратегии, что увеличивает масштаб и эффективность киберпреступлений.

В будущем правительства, компании и разработчики ИИ должны теснее сотрудничать, усиливать безопасность моделей, контролировать аномальное использование и повышать общие уровни киберзащиты, чтобы удержать границы цифрового пространства в эпоху ИИ.