Чорне дзеркало стає реальністю: патент Meta дозволяє AI померлих продовжувати публікувати та взаємодіяти

Відомий науково-фантастичний серіал «Чорне дзеркало» (Black Mirror) обговорює «цифрове воскресіння після смерті», що переходить від сюжету до реальності. Meta нещодавно отримала новий патент на штучний інтелект, досліджуючи можливість навчання моделей ШІ, щоб користувачі могли продовжувати публікувати, взаємодіяти та навіть симулювати відеодзвінки після смерті або тимчасового виходу з соціальних платформ. Користувачі мережі порівнюють його з контентом «Black Mirror», який зосереджений на штучному інтелекті, що відтворює померлих родичів.

Технічна архітектура Meta AI для клонів

Згідно з патентними документами, система AI-клонів Meta навчається шляхом скрапінгу історичних даних про поведінку платформи конкретних користувачів, включаючи минулі коментарі, такі записи та публікації, щоб створити цифровий аватар, який імітує поведінкові моделі користувача. Цей цифровий дублікат акаунта може:

· Автоматично ставте лайки та коментуйте, щоб відповідати на контент інших користувачів у спільноті

· Відповідайте в особисті повідомлення, щоб підтримувати поверхневу взаємодію з друзями

· Імітуйте відео- або голосові дзвінки з користувачами за допомогою великих мовних моделей (LLM).

Meta пояснила у документі, що якщо користувач припинить публікувати через тимчасову паузу або вже помер, це постраждає на фанатський досвід, і «якщо користувач ніколи не зможе повернутися, вплив на інших користувачів буде більш серйозним і тривалим.» Посадовці також зазначили, що ця технологія має практичну цінність для творців або інфлюенсерів, які потребують короткої відпустки.

Присутність Meta у сфері цифрової спадщини існує вже понад десять років. Facebook запустив функцію «Меморіальний агент облікового запису» у перші роки, дозволяючи призначеним особам керувати акаунтами після смерті користувача. У 2023 році генеральний директор Марк Цукерберг також говорив про ідею створення аватарів для померлого в інтерв’ю подкасту Lex Fridman. Крім того, Microsoft отримала патент на чат-бот на основі штучного інтелекту з подібними функціями ще у 2021 році, стверджуючи, що може імітувати стилі взаємодії померлих людей, вигаданих персонажів і навіть знаменитостей.

Вибухова суперечка: комерціалізація, психологічний шок і спотворення процесу горя

Патент викликав широку критику на форумах, таких як Reddit, де основна суперечка зосереджена на таких рівнях:

Комерціалізація та етичні питання цифрових решток: Багато користувачів мережі хвилюються, що Meta може й надалі генерувати рівень залученості та рекламні доходи через цифрових двійників померлих, фактично комерціалізуючи «цифрові рештки» людей. Дехто також припустив, що в майбутньому може знадобитися створити «посмертний цифровий заповіт», щоб запобігти тому, щоб клони ШІ робили заяви або просували продукти проти їхньої волі.

Психологічний шок: Деякі користувачі зазначили, що якщо штучний інтелект-робот померлого родича активно надсилає повідомлення, це створить нестерпний психологічний тиск на сім’ю і навіть може спровокувати кризу психічного здоров’я.

Ризики запобігання шахрайству: На форумі також прозвучали голоси, які вказували, що якщо технологія акаунтів буде зловмисно використовуватися після смерті, це може стати новою підставою для шахрайства та видавання себе особистістю.

На академічному рівні професор соціології Університету Вірджинії Джозеф Девіс висловив глибші занепокоєння. Він зазначив, що горе має неминуче і важливе завдання — змусити людей прийняти справжню втрату. “Ідея використання клонів ШІ для повернення мертвих насправді не повертає їх до життя, а просто виглядає схоже на перший погляд, що викликає психологічну плутанину і плутанину.” Девіс закликав суспільство дозволити померлим спочити з миром, а не створювати хибне відчуття безперервності в ім’я технологій.

У відповідь на зовнішні сумніви представник Meta уточнив: «Подача заявки на патент — це розкриття концепції, і отримання патенту не означає, що компанія обов’язково просуне, розробить або впровадить технологію.»

Поширені запитання

Які конкретні схожості між сюжетом «Black Mirror» і патентом Meta?

Епізод «Black Mirror» «Come Back Soon» розповідає про жінку, яка використовує AI-сервіси для реконструкції цифрового аватара померлого за допомогою записів із соціальних мереж, листів і відео після того, як її партнер загинув у автокатастрофі, і нарешті взаємодіє з нею у вигляді робота. Патенти Meta дуже схожі за основною логікою: усі вони навчають ШІ історичній цифровій поведінці користувачів, щоб моделювати їхні моделі поведінки та підтримувати «активний» стан акаунта після смерті. Різниця в тому, що система Meta зосереджена на взаємодіях у соціальних мережах, а не на фізичних ботах.

Чи означає патент Meta на AI-клон, що ця функція з’явиться найближчим часом?

Не обов’язково. Представник Meta чітко дав зрозуміти, що мета подання заявки та отримання патенту — задокументувати передовий дизайн концепції технології, і це не означає, що технологія буде фактично розроблена чи впроваджена. Подача патенту — це поширена практика для технологічних компаній для захисту інноваційних ідей, і часто існує тривалий процес технічної перевірки, етичного огляду та відповідності нормативним вимогам між заявкою та фактичним запуском продукту.

Чи є спосіб для користувачів вирішувати, що робити зі своїми акаунтами після смерті?

Наразі Facebook, дочірня компанія Meta, надає функцію «агента меморіального акаунта», що дозволяє користувачам призначати довірену особу для управління акаунтом після їхньої смерті. Користувачі також можуть обрати запит на повне видалення свого акаунта після смерті. З розвитком технології цифрової спадщини ШІ правова база та інструменти-платформи для «цифрових заповітів» можуть стати наступним важливим питанням.