Рішення ШІ, які можуть визначити життя або смерть, мають залишатися під керівництвом людей, — заявляє панель WAIC 2026

На Конференції зі штучного інтелекту 2026 року World Artificial Intelligence Conference панелісти, зокрема Сюе Лань (директорка Інституту AI Governance Тіньхуа), Ніколас Б. Діркс (президент і генеральний директор New York Academy of Sciences) та Марк Ніцберг (виконавчий директор Центру Human-Compatible Artificial Intelligence Університету Каліфорнії в Берклі), обговорили управління AI-агентами. За словами учасників панелі, ШІ переходить від «підтримки судження» до «автономних дій», що потребує розширених ланцюгів підзвітності між розробниками, операторами та регуляторами.

Панелісти дійшли консенсусу: рішення з наслідками «життя або смерті», сценарії, які неможливо виправити після помилки, а також усі питання, що стосуються етичних міркувань і оцінювання вартості, ніколи не мають вестися ШІ. Люди можуть дозволяти дії ШІ, але не можуть делегувати відповідальність. Кожен дозвіл має бути відкличним, кожна дія — відстежуваною, а темп надання повноважень агентства ніколи не має перевищувати темп перевірки здатності ШІ.