Папа Лев призывает технических лидеров создавать искусственный интеллект, который уважает человеческое достоинство

Вкратце

• Папа Лев XIV сказал, что выборы дизайна ИИ отражают видение человечества, а не только технические цели.
• Его сообщение основывалось на более раннем документе Ватикана, который предупреждал, что ИИ лишен морального суждения и истинной эмпатии.
• Комментарий Папы выводит ИИ за пределы технических новшеств в сферу морали.

Хаб Искусства, Моды и Развлечений Decrypt.

Откройте SCENE

Папа Лев XIV снова вмешался в глобальные дебаты по поводу искусственного интеллекта в пятницу, рассматривая новую технологию как испытание морального направления человечества.

Пост в X стал последним сообщением Лео по поводу ИИ с тех пор, как он стал главой Католической церкви в мае. Лео описал развитие ИИ как часть гораздо более широкой борьбы за то, кем мы становимся, когда создаем системы, которые учатся, принимают решения и функционируют на глобальном уровне.

“Технологические инновации могут быть формой участия в божественном акте творения. Они несут в себе этическую и духовную нагрузку, ведь каждый выбор дизайна выражает видение человечества,” написал Папа. “Церковь, следовательно, призывает всех строителей ИИ развивать моральное различение как фундаментальную часть своей работы — разрабатывать системы, которые отражают справедливость, солидарность и искреннее уважение к жизни.”

С тех пор как он стал Папой, Лев сделал несколько комментариев, касающихся искусственного интеллекта. В мае новоизбранный Папа Лев объяснил, что выбрал это имя в честь Папы Льва XIII, который в мае 1891 года обратил внимание на последствия промышленной революции.

Последний комментарий Папы Льва отразил Antiqua et nova, январское учение Ватикана о искусственном и человеческом интеллекте. В документе говорится, что ИИ может производить сложные результаты, но лишён истинного мышления, жизненного опыта и морального суждения. В нем предупреждается, что без строгого человеческого контроля технология может усугубить неравенство, подстегнуть дезинформацию, расширить наблюдение и ослабить важные человеческие отношения.

В июле Ватикан выпустил сообщение от имени нового Папы, в котором призвал мировых лидеров подходить к искусственному интеллекту с этически обоснованным, ориентированным на человека управлением. Сообщение на Саммите ИИ для блага 2025 года призывало к созданию ИИ-систем, которые защищают человеческое достоинство, укрепляют глобальное сотрудничество и служат общему благу.

Послание Папы Льва повторяет те риски, которые Ватикан поднимал с момента публичного запуска ChatGPT в 2022 году при его предшественнике, Папе Франциске, который писал, что прогресс в информационных технологиях и цифровых технологиях “уже начал оказывать глубокое влияние на глобальное общество и его различные динамики.”

Как и его предшественники, папа Лев провел параллель между волнениями Индустриальной революции и возникновением ИИ, заявив, что технологии изменят мир — но не должны переопределять то, что значит быть человеком.