Папа Римский: Этика ИИ – императив в условиях «гонки вооружений»

«Как развивать технологии, не допуская деградации человеческого сердца?» — этот фундаментальный вопрос лежит в основе самой первой энциклики, подписанной Папой Львом XIV в понедельник 25 мая, в день Пятидесятницы. В знак своей глубокой приверженности этой теме, понтифик лично представил это доктринальное послание из Ватикана, что стало беспрецедентным событием в истории Церкви.

Данный документ с нетерпением ожидали как представители мира новых технологий, так и Церковь. Энциклика «Magnifica Humanitas» («Величественное человечество») является первым значимым текстом понтификата Льва XIV и окончательно определяет позицию Святого Престола по животрепещущему вопросу искусственного интеллекта (ИИ). Избранный в мае 2025 года, Папа Лев XIV сделал эту тему одним из своих главных приоритетов. Помимо многочисленных заявлений в пользу более строгого регулирования сектора, понтифик, обладающий глубокими познаниями в новых технологиях и математическим образованием, недавно учредил ватиканскую комиссию по ИИ. Этот межведомственный орган (аналог министерств при Святом Престоле) призван обеспечить лучшую координацию работы и исследований по данной проблематике.

Anthropic участвует в подготовке текста

Новый понтифик также продолжил «диалог» с многочисленными игроками Кремниевой долины, начатый его предшественником Франциском. Доминиканский священник Эрик Салобир через свой аналитический центр Human Technology Foundation, расположенный в Риме, продолжил организовывать мероприятия, на которых встречались представители Google, Amazon, Meta и члены Римской курии. Епископ Пол Тайг, серый кардинал Святого Престола по цифровым вопросам, за последние месяцы встречался с Джорджем Осборном, ответственным за международные отношения в гиганте ИИ OpenAI. Кроме того, прелат внес вклад в «Конституцию Клода» – программный документ, который служит одновременно нормативной основой и инструментом обучения для моделей компании Anthropic.

Похоже, что компания Anthropic, чьи прогнозы роста теперь превосходят показатели OpenAI, сыграла значительную роль в подготовке этой энциклики. Во время ее презентации Святого Отца сопровождал Кристофер Олах, соучредитель лаборатории Anthropic. Признавая, что «давление, связанное с необходимостью оставаться коммерчески жизнеспособным, быть на переднем крае исследований [и] геополитическое давление» могут «вступать в конфликт с желанием творить добро», этот исследователь, специалист по интерпретируемости систем, высоко оценил инициативу Святого Отца: «Нам нужна просвещенная критика, которая будет предупреждать наши лаборатории, когда мы заблудимся».

Критика цифровой индустрии

В присущем папскому общению аллегорическом стиле, сочетающем богословие, исторические и современные отсылки, 90-страничный текст энциклики представляет собой довольно прямую критику цифровой индустрии в эпоху ИИ. Расширение «технологической власти» и монополизация ее частными игроками вызывают у Папы образ Вавилонской башни, «которая претендует на господство над небесами», рискуя при этом дегуманизировать пользователей этих инструментов. На протяжении всего документа Папа призывает следовать примеру другого библейского эпизода: восстановления стен Иерусалима. Это отсылка к истории, когда еврейский народ, вернувшись из вавилонского изгнания, отстроил город «благодаря общей ответственности всего народа: священников, ремесленников, глав семей, женщин и молодежи».

Для ответа на вызовы, поставленные ИИ, Папа ссылается на три принципа социальной доктрины Церкви: социальную справедливость, универсальное предназначение благ и субсидиарность. Другими словами, понтифик призывает к лучшему соблюдению прав человека, децентрализации монополизации ресурсов («патентов, алгоритмов, цифровых платформ, технологических инфраструктур, данных») и к появлению промежуточных структур, способствующих общему благу. Эти принципы были заложены ровно 135 лет назад в энциклике «Rerum novarum» («О новых вещах»). Эта энциклика, написанная Львом XIII в разгар промышленной революции (1891 год), стала первой, сформулировавшей комплекс рекомендаций в пользу более справедливого социального порядка. «Лев XIV явно стремился следовать по стопам своего предшественника, обращаясь к тому, что является новым в общественной жизни, – анализирует Франсуа Эве, доктор теологии и главный редактор журнала «Études». – А ИИ – это тема нашей эпохи».