[Пост] Випадки несправності функцій штучного інтелекту(AI) та напрями реагування
Двобічність штучного інтелекту: прискорення інновацій та криза довіри
Технології генеративного ШІ революційно підвищують продуктивність у різних галузях, але водночас поширюють негативні ефекти, що руйнують безцінний актив суспільної довіри. Глибока підробка та фальшива інформація на основі ШІ, що поширюються з високою точністю, яка перевищує людські когнітивні можливості, значно ускладнюють для індивідів розпізнавання правди. У цій статті негативні ефекти ШІ класифіковано за трьома типами: “загострення цифрової розриву”, “надмірна залежність від цифрових технологій” та “зловживання злочинною діяльністю та нелегальними діями”, з метою діагностики ризиків і пошуку ефективних заходів реагування.
Три основні типи негативних ефектів ШІ: розрив, надмірна залежність і злочини
По-перше, цифровий розрив (AI Divide) вже вийшов за межі простої проблеми доступу та перетворився на “різницю у якості використання”, посилювану через ефект складного відсотка у продуктивності та поглиблювану нерівність. Особливо це стосується малих і середніх підприємств, які через брак капіталу та даних стикаються з великим ризиком бути витісненими у конкуренції з великими компаніями. По-друге, надмірна залежність від ШІ (AI Overdependence) спричиняє явище “де-навчання” — зниження природних здатностей людини до вирішення проблем. Також у процесі перевірки результатів ШІ та відповідальності за них може виникнути перевантаження роботою. По-третє, зловживання злочинною діяльністю (Crime & Illegal Acts) проявляється у використанні глибоких підробок (наприклад, Sora 2.0) і синтезу голосу для фінансових шахрайств, маніпуляцій громадською думкою тощо. Це навіть спричиняє феномен “прибутку брехуна”, коли правдиві докази ставляться під сумнів, що підриває основи суспільної довіри.
Рішення для відновлення довіри: поєднання технологій Web 3.0 та інституційних заходів
Для протидії негативним ефектам ШІ важливо застосовувати комплексний підхід, що включає технології, політику та освіту. З технологічної сторони, необхідно впроваджувати інфраструктуру довіри на базі Web 3.0. Це передбачає використання децентралізованої ідентифікації (DID) для криптографічного підтвердження особи відправника з метою запобігання підробкам, застосування доказів із нульовою довіреністю (ZKP) для перевірки кваліфікацій без розкриття особистої інформації, а також інтеграцію стандарту C2PA з блокчейном для прозорого відслідковування джерел контенту. У політиці потрібно посилити відповідальність за злочини, пов’язані з ШІ, та зобов’язати платформи запроваджувати превентивні заходи, а також підтримувати малий і середній бізнес у створенні інфраструктури ШІ для зменшення розриву. В освітній сфері слід запровадити всеохоплюючу освіту для всіх вікових груп, орієнтовану на формування навичок перевірки джерел інформації та розуміння алгоритмічних упереджень, а також розвиток критичного мислення.
Побудова людськоцентричної системи управління екосистемою ШІ
ШІ — це “двосторонній меч”, що одночасно відкриває безмежні можливості та несе ризики для людства. Більш важливо, ніж швидкість технологічного розвитку, — це наш спосіб безпечно та відповідально використовувати ці технології. Уряд, бізнес і громадянське суспільство мають спільно працювати над створенням гнучкої системи управління, яка не заважає інноваціям, але водночас дотримується людських цінностей. Коли довіра забезпечується технологіями Web 3.0, а безпека — законодавством і освітою, ШІ може стати справжнім інструментом процвітання людства.
※ Детальніше дивіться у повному тексті статті.