Google предупреждает! Хакерские организации из Северной Кореи и других стран используют Gemini для атак

Последний отчёт, опубликованный Командой разведки угроз Google (GTIG), отметил, что хакерские группы в Северной Корее и нескольких странах активно используют Gemini для выполнения задач, таких как автоматизированная разведка и разработка вредоносного ПО, что представляет серьёзную угрозу глобальной безопасности данных и обороны. Стив Миллер, глава GTIG, заявил, что предприятиям необходимо столкнуться с проблемой кибератак и внедрять защиту на базе ИИ для защиты ресурсов и данных компании.

Хакерская группа использует синтетический открытый интеллект Gemini для анализа конкретных целей

Google сообщает, что северокорейская хакерская группа с кодовым названием UNC 2970 использует Gemini Integrated Open Source Intelligence (OSINT) для проведения сложного анализа конкретных высокоценных целей. Организация давно известна как Operation Dream Job, замаскированная под корпоративных рекрутеров, ориентированная на профессионалов аэрокосмической, оборонной и энергетической отраслей. С помощью ИИ злоумышленники могут эффективнее искать технические вакансии и структуры зарплат в крупных охранных и оборонных компаниях, чтобы точно определить цели.

GTIG утверждает, что UNC 2970 может более точно нацеливаться на слабые места первоначального вторжения, создавая высоко персонализированные скрипты социальной инженерии. Помимо Северной Кореи, китайские хакерские группы Mustang Panda (Temp.HEX) и APT 31 также использовали ИИ для редактирования личных файлов или автоматизации анализа уязвимостей.

Новое вредоносное ПО «аутсорсингует» разработку функций через API Gemini

В отчёте раскрывается новый тип вредоносного ПО под названием HONESTCUE, который передаёт разработку функций через API Gemini — фреймворк для загрузки, который берёт сгенерированный исходный код на C#, полученный из API Gemini, и компилирует и выполняет полезную нагрузку непосредственно в памяти с использованием легитимного фреймворка .NET CSharpCodeProvider, не оставляя следов на диске.

Киберзлоумышленники отправили более 100 000 запросов, копируя возможности рассуждения ИИ

Google наблюдала, как злоумышленники отправляют большое количество подсказок ИИ, чтобы воспроизвести возможности моделей рассуждения и реагирования. Google блокирует альтернативные модели, которые имитируют машины; В одной из крупномасштабных атак Gemini подверглась кибератаке с более чем 10 подсказками, которые вызвали серию вопросов, направленных на воспроизведение возможностей рассуждения ИИ в задачах, не говорящих на английском языке.

Стив Миллер, руководитель отдела угроз искусственного интеллекта в Google, отметил, что пока злоумышленники продолжают пытаться обойти защиту, скрывая свою личность, Gemini продолжает добиваться прогресса в выявлении методов обмана и усилении автоматических фильтров, а её защита постоянно совершенствуется, чтобы противостоять новым типам оперативных атак.

В условиях всё более серьёзных угроз со стороны ИИ Google запустила программу киберзащиты на основе ИИ, которая постоянно улучшает защиту от вредоносных атак, повышает точность обнаружения и автоматизирует скорость реагирования. Стив Миллер отметил, что предприятия должны инвестировать в инфраструктуру ИИ и создавать системы обороны для обеспечения информационной безопасности в будущем.

Эта статья предупреждает Google! Северная Корея и транснациональные хакерские группы используют Gemini для атак впервые появилось на Chain News ABMedia.