«Имеющему дастся, а у неимеющего отнимется и то, что есть»: автор «Нити» Сергей Маляров резюмирует главные мысли паблик-тока о духовной жизни в эпоху ИИ
Сергей Маляров
В четверг, 16 июля, «Нить» провела встречу на тему «Духовная жизнь в эпоху ИИ». Уже давно ни для кого не секрет, что ИИ используется повсеместно: в бизнесе, творчестве и даже в личной жизни. Но что делать, если мы начали замечать, что разговор с ИИ стал безопаснее, чем с личностью? И почему люди предпочитают советоваться с чатом, а не с ближним? Сергей Маляров, автор, редактор и участник сообщества «Нить», написал репортаж и выделил главные мысли после встречи.
Одному из гостей вчерашнего паблик-тока об ИИ недавно прислали короткую запись — просто послушать. Он включил и услышал свой голос: свои интонации, свой тембр, даже те мелкие обертоны, которые узнаёшь только за собой. Голос говорил вещи, которых человек никогда не произносил. Запись была сгенерирована от начала до конца. Отличить он не смог, и звукооператоры, когда он потом их пытал, тоже только разводили руками.
Это отец Павел Великанов. Рассказывал он это спокойно, но сказал, что душа тогда ушла в пятки. Я слушал и думал, что вот с этого и стоило начинать вечер, а не с цифр про миллиарды запросов.
Вечер мы затеяли про искусственный интеллект и собрали кого смогли: несколько священников, композитора, интернет-омбудсмена, пару журналистов, редактора, предпринимателей, философов и просто верующих неравнодушных людей. Ждали спора — спор и получили. Но ближе к концу выяснилось, что говорили-то мы не совсем о том, ради чего собирались.
Разброс был большой. Для кого-то ИИ — почти буквальный Антихрист: слишком умён, слишком завязан на числа, рождён не по-человечески. Кто-то сравнил его с наркотиком: искусственная радость взаймы, и лучше вовсе не пробовать, как не пробуют героин. Один из священников прямо сказал, что относится к этой штуке с брезгливостью и мараться о неё не хочет. А отец Вячеслав Завальный вспомнил про топор: им можно зарубить старуху-процентщицу, а можно наколоть дров и натопить избу. Дело не в топоре. И прибавил: хорошо бы, чтобы этот наш новый топор хоть никого не убил.
Была среди гостей редактор христианских медиа — она помногу работает с нейросетями, собирает из них тексты для одного православного проекта, десятки часов в месяц. Рассказала о том, что попросила ИИ убрать с картинки одного персонажа, а он ей в ответ прочёл лекцию, что это расизм и так нельзя. Никакой он не беспристрастный, сказала она; в нём уже что-то зашито, и неважно, кто за клавиатурой. Отец Павел потом согласился: беспристрастен он разве что в теории, а на деле танцует под ту музыку, которую оплачиваем не мы с вами. Дмитрий Мариничев, интернет-омбудсмен, договорил это до конца: выбор у тебя вроде бы любой, но сама система, внутри которой ты выбираешь, уже не твоя; и весь вопрос в том, кто собрал ту модель, которой ты доверил за себя думать.
Кто-то из зала поделился домашним опытом: спросил у разных чат-ботов, в какого бога они бы верили. Западные ответили, что были бы христианами, китайский — что буддистом, и доводы у каждого нашлись вполне убедительные.
А ближе к середине я поймал себя вот на чём. Все приходили допрашивать машину, а говорить начинали про себя — про то, есть ли у человека внутри своё содержание или там пусто. Отец Вячеслав вытянул тут неудобную евангельскую строчку, которая, по его словам, годами не давала ему покоя: имеющему дастся, а у неимеющего отнимется и то, что есть. Через ИИ она вдруг открылась. Инструмент возвращает тебе умноженным ровно то, что ты в него вложил. Придёшь пустым — уйдёшь ещё беднее.
Константин Джусоев, проректор Сретенской академии, назвал то, на чём всё это и держится: связи вокруг стало больше, чем когда-либо, а одиночества — тоже больше, чем когда-либо. Оттого люди и несут к машине не только рабочие задачи, но и самое личное. Со сцены звучали цифры, будто таких уже чуть ли не половина всех, кто ею пользуется. Где-то, говорят, прямо исповедуются чат-боту и выходят с ощущением, что их наконец выслушали: спокойно, подробно, без осуждения.
И вот это, по-моему, было самое неприятное за весь вечер. Пока в зале выясняли, Антихрист перед нами или ангел, обычные люди давно унесли свои главные вопросы туда, где им отвечают. Один из участников под конец так и попросил священников: напишите уже про то, как в этой новой жизни любить Бога и ближнего на практике. Про технологии, сказал он, найдётся кому написать и без вас. Внятного ответа в зале не нашлось.
Лучшую фразу за вечер, как обычно и бывает, обронили почти между делом. Кто-то напомнил, что в притче о блудном сыне отец не побежал за сыном на чужбину. Он остался дома и ждал — и сыну было куда возвращаться. Офлайн, сказал этот человек, это и есть место, где мы стоим и ждём, пока люди сами к нам возвращаются.
Отец Павел Великанов — тот самый, что не узнал собственный поддельный голос, — под конец честно сказал, что не знает ответов на многие вопросы об ИИ. Не потому что не разобрался. Ответа пока нет ни у кого, и притворяться, будто он есть, нечестно. Посмотрим, сказал он. Держать при себе он посоветовал две компоненты: тело и телесность, на котором всё христианство и стоит (человек ведь спасается в теле), и ту живую сердцевину внутри, по которой только и отличишь человека от очень хорошей подделки.
Разошлись на том, что, похоже, все просто честно уткнулись в то, чего пока не знает никто, и нет смысла делать умный вид. Отец Павел, уже уходя, повторил: посмотрим. Кажется, это и было самое важное и правильное, что прозвучало за весь вечер.