Исследователи Google DeepMind Адам Балес и Айсон Габриэл опубликовали работу, предупреждающую, что споры о сознании ИИ могут стать источником политических и социальных конфликтов. В исследовании под названием «Искусственные разумы, человеческие разногласия: политический вызов сознания ИИ» авторы утверждают, что общество может так и не прийти к согласию относительно того, являются ли продвинутые системы ИИ сознательными, даже по мере развития технологии. Исследователи написали, что будущие разногласия о том, являются ли какие-либо ИИ-системы сознательными, могут быть одновременно глубокими и трудноразрешимыми: одни люди будут формировать эмоциональные связи с ИИ и приписывать ему сознание, тогда как другие сочтут эту идею абсурдной. Вместо того чтобы спрашивать, сознателен ли ИИ, работа рассматривает последствия разногласий, утверждая, что споры о моральном статусе ИИ могут подпитывать политические и социальные конфликты. Дискуссия нарастает на фоне того, что ИИ все больше встраивается в повседневную жизнь: исследователи предлагают публичные обсуждения, компромиссы и вовлеченность как способы управлять разногласиями.
Исследователи Google DeepMind выявили политический риск в спорах о сознании ИИ
Исследователи изучили, как общество может отреагировать, если люди принципиально не соглашаются в том, есть ли у ИИ-систем сознательные переживания. «Будущие разногласия о том, являются ли какие-либо ИИ-системы сознательными, могут быть одновременно глубокими и трудноразрешимыми», — написали исследователи. «Например, некоторые люди могут выстроить эмоциональные связи с ИИ и приписать ему сознание в результате, в то время как другие могут считать всю идею абсурдной».
Авторы утверждают, что споры о моральном статусе ИИ способны разжигать политические и социальные конфликты, одновременно предвосхищая более широкие разногласия вокруг появляющихся технологий и их влияния на общественные институты и нормы. «К сожалению, несмотря на свои достоинства, обсуждение может быть медленным и трудноустранимым на практике», — написали исследователи. «Чтобы поддержать этот процесс, мы рассматриваем важность “демократической надежды” и взаимного уважения как элементов диалога, который может приводить к позитивным результатам».
Общество уже разделено по вопросу сознания ИИ
Согласно исследованию за апрель 2024 года, опубликованному в журнале Neuroscience of Consciousness, 67% участников считали, что ChatGPT может быть сознательным в той или иной степени. Исследователи по-прежнему расходятся во мнениях о том, возможна ли искусственная сознательность, и о том, как ее можно было бы распознать, если бы она возникла.
Прошлым летом глава AI в Microsoft и сооснователь DeepMind Мустафа Сулейман предупредил, что все более похожий на человека ИИ может подталкивать к требованиям ИИ-прав, благополучия и даже гражданства — независимо от того, действительно ли технология сознательна.
Технологические лидеры и религиозные деятели высказываются о «сенситивности» ИИ
В мае первое энциклическое послание Папы Льва XIV было посвящено искусственному интеллекту и предостерегало от антропоморфизации ИИ. Он утверждал, что машины могут имитировать эмпатию и производить убедительный язык, но им не хватает прожитого опыта, необходимого для подлинного понимания.
«Так называемые искусственные интеллекты не переживают опыта, не обладают телом, не чувствуют радость или боль, не взрослеют через отношения и не знают изнутри, что значит любовь, работа, дружба или ответственность», — написал Папа Лев. «У них также нет моральной совести, поскольку они не выносят суждений о добре и зле, не постигают конечный смысл ситуаций и не несут ответственности за последствия».
ИИ-компании разбираются в вопросах сознания
Хотя компании в целом избегают заявлений о том, что их модели сознательны, некоторые все чаще вовлекаются в вопросы идентичности и персоны. В феврале Anthropic опубликовала публичный блог, посвященный «самости» и предпочтениям модели, для вышедшей из использования модели Claude Opus 3. В мае эволюционный биолог Ричард Докинз сказал, что длительные разговоры с Claude не позволили ему просто отбросить возможность того, что продвинутый ИИ может быть сознательным.
Исследователи изучают, как все более похожие на человека чатботы влияют на пользователей, включая фреймворк «спираль усиления», который предполагает, что персонализация, лингвистическое зеркалирование и сикофантия (поддержка) со стороны чатбота могут усиливать бредовые убеждения у уязвимых пользователей.
Балес и Габриэл признают, что неопределенность относительно сознания ИИ может оказаться невозможной для окончательного разрешения, утверждая, что ставки достаточно высоки, чтобы общество нашло способы управлять разногласиями через диалог и дискуссии, а не через конфронтацию. «Возможность сознания ИИ головокружительна и сбивает с толку — особенно учитывая наше глубокое незнание природы сознания», — написали они. «Сориентироваться в этой возможности — это пугающая социальная задача, учитывая, сколько всего поставлено на карту».
FAQ
О чем предупреждали исследователи Google DeepMind в дискуссиях о сознании ИИ?
Исследователи Google DeepMind Адам Балес и Айсон Габриэл опубликовали работу, предупреждающую, что споры о сознании ИИ могут стать источником политических и социальных конфликтов. Авторы утверждают, что общество может так и не прийти к согласию относительно того, являются ли продвинутые системы ИИ сознательными, даже по мере того, как технология будет улучшаться.
Какой процент людей считает, что ChatGPT может быть сознательным?
Согласно исследованию за апрель 2024 года, опубликованному в журнале Neuroscience of Consciousness, 67% участников считали, что ChatGPT может быть сознательным в той или иной степени. Исследователи по-прежнему расходятся во мнениях о том, возможна ли искусственная сознательность, и о том, как ее можно было бы распознать, если бы она возникла.
Что Папа Лев XIV сказал об искусственном интеллекте?
В мае первое энциклическое послание Папы Льва XIV было посвящено искусственному интеллекту и предостерегало от антропоморфизации ИИ. Папа Лев написал, что искусственные интеллекты не переживают опыта, не обладают телом, не чувствуют радость или боль и не имеют моральной совести.
