Вартість генерації фейкових новин на ШІ — лише 13 вон, 4 секунди: конференція з безпеки в Кореї

16 квітня 2026 року Ко У-хьонч, старший дослідник Національного інституту технологій національної безпеки Південної Кореї (NSTI), представив результати на 32-й конференції з безпеки інформаційних та комунікаційних мереж (NetSec-KR 2026) у Сеулі, розкривши, що фейкові новини, згенеровані ШІ, можна створювати за надзвичайно низької вартості та швидкості. За словами Ко, створення фейкових новин із використанням генеративного ШІ коштує в середньому 13 вон і займає 4 секунди, а для 12 фейкових новин потрібні 155 вон і в середньому 46 секунд. Ко наголосив, що поширення AI-генерованих дезінформацій і шкідливих коментарів, призначених для маніпулювання суспільною думкою, стало критичною загрозою для суспільства.

Дезінформація, згенерована ШІ, та соціальний вплив

Ко підкреслив, що в міру того, як можливості генеративного ШІ все частіше неправомірно використовуються, основна тактика зловживання полягає в маніпулюванні думками та інформацією. Він зазначив, що через те, що вартість і обсяг фейкових новин і фейкових коментарів стали настільки низькими та рясними, суспільство дійшло до стану, коли відрізнити правду від неправди вкрай складно.

Згідно з аналізом Ко, коли фейкова інформація стає всюдисущою, члени суспільства виснажуються від дезінформації та починають втрачати інтерес до реальності. Ця ситуація змушує людей ставити під сумнів навіть автентичну інформацію. Ко зазначив, що «покарання за фейкові новини юридично важко застосувати, якщо це не призводить до фінансової вигоди», і наголосив, що «технологія генеративного ШІ розвивається надто швидко, і потрібні інституційні покращення».

Ко У-хьонч виступає щодо ризиків фейкових новин, згенерованих ШІ, на NetSec-KR 2026

Аналіз і виявлення шкідливого ПЗ на основі ШІ

Чхве Сок-У, директор NSTI, виступив із доповіддю про «Технологію аналізу шкідливого ПЗ на основі ШІ» на тій самій сесії. За висновками Чхве, оскільки ШІ починають використовувати для створення шкідливого ПЗ, щодня створюється приблизно 450 000 нових зразків шкідливого ПЗ. Сукупна загальна кількість шкідливого ПЗ перевищила 1 мільярд екземплярів.

У відповідь на цю ескалуючу загрозу Чхве виступив за розробку рішень, керованих ШІ, зокрема аналітичних підтримуючих систем на основі ШІ, автономних агентів для аналізу на базі великомовних моделей (LLM) та інструментів автоматизованої деобфускації.

Чхве Сок-У виступає щодо необхідності технології аналізу шкідливого ПЗ на основі ШІ

Виявлення вразливостей на основі LLM: поточні обмеження

Чі Хьон-сок, старший дослідник NSTI, виступив із доповіддю про «Еру виявлення вразливостей програмного забезпечення на основі LLM». У своїх дослідженнях Чі розглядав, як LLM виявляють вразливості безпеки, і виявив суттєві обмеження наявних можливостей.

Чі заявив: «У недавніх випадках, хоча ШІ виявляв численні вразливості, результати аналізу показують, що насправді це не так. Ефективне виявлення вразливостей було можливим лише тоді, коли LLM і моделі ШІ забезпечувалися спеціалізованими інструментами для виявлення вразливостей». За словами Чі, наразі LLM стикаються з низкою обмежень, зокрема труднощами з обробкою великих кодових баз, проблемами залежності даних та ненадійністю міркувань.

Чі спрогнозував, що синергія буде максимальною, коли кваліфіковані аналітики з безпеки, здатні безпосередньо визначати вразливості, зможуть використати інструменти LLM. Однак Чі підкреслив, що «виявлення вразливостей за допомогою LLM ще не завершене. Потрібно дослідити кращі методи пошуку вразливостей». У доповіді наголошувалося, що наразі виявлення вразливостей на основі LLM не можна виконати ефективно лише силами ШІ, і людська експертиза залишається необхідною для надійного аналізу безпеки.

Чі Хьон-сок виступає щодо досліджень виявлення вразливостей на основі LLM