История девушки, которая воскресила друга в виде чат-бота. (Часть 2)

Многие друзья Романа еще никогда не сталкивались с потерей близкого человека, и его смерть опустошила их. Со всей деликатностью, на которую она была способна, Евгения начала спрашивать их, могут ли они предоставить ей свои переписки с Романом. Десятеро из его друзей и членов семьи, в том числе его родители, в конце концов согласились сделать такой вклад в проект. Все они предоставили более 8000 строк текста, которые касались широкого спектра тем. 

«Она сказала, мол, давай просто попробуем и посмотрим, вдруг получится? Получится ли у нас взять данные у собеседников Романа и создать что-то вроде модели беседы с ним, чтобы посмотреть, есть ли в этом во всем смысл?» — вспоминает Сергей Файфер, давний друг Романа, который теперь работает в Яндексе. Эта идея показалась Файферу дерзкой и довольно противоречивой. Но все же он предоставил свою четырехлетнюю переписку с Романом. «Luka очень хороши в обработке языка. Вопрос был не в технических возможностях. Вопрос был в том, какие эмоции это все вызовет», — признается Сергей. 

Историю технологии, лежащей в основе бота Куйды, можно проследить до 1966 года, когда Йозеф Вайзенбаум открыл миру программу ELIZA, которая реагировала на запросы посредством простого сопоставления слов. ELIZA, больше всего походящая на психолога, просила вас описать свою проблему и, ориентируясь на ключевые слова, выдавала ответ, обычно состоявший из дальнейших расспросов. Это была первая программа, прошедшая так называемый Тест Тьюринга: читая диалог между человеком и машиной, некоторые наблюдатели не могли определить, кому принадлежали реплики. 

На сегодняшний день боты остаются несовершенной, бледной копией своих человеческих прототипов. Они не понимают языка по-настоящему. Они неуклюже отвечают на самые примитивные вопросы. У них нет ни мыслей, ни чувств, о которых они могли бы рассказать. Какое-либо сходство с человеческим интеллектом является случайностью, основанной на на теории математических вероятностей. 

И все же из-за недавних достижений в сфере искусственного интеллекта, иллюзия стала гораздо более убедительной. Нейронные сети, имитирующие способность человеческого мозга к обучению, во многом улучшили то, как программа воспринимает закономерности в изображениях, звуках и текстах, помимо других видов данных. Улучшенные алгоритмы вместе с более мощными компьютерами повысили глубину нейросетей — уровень абстракции, которой они могут оперировать, — и результаты этого уже видны в некоторых из самых инновационных продуктов современности. Понимание речи, заложенное в Siri или Alexa, или способность распознавания изображений, на основе которой работают Google Photos, основаны на так называемом глубоком обучении. 

За две недели до того, как был убит Мазуренко, Google выпустила бесплатную библиотеку софта TensorFlow, под лицензией с открытыми исходными кодами. TensorFlow представляет собой что-то вроде самого поисковика Google в коробке — удобной системы машинного обучения, которую компания использует для написания всего, начиная от улучшения поисковых алгоритмов, и заканчивая автоматическим написанием субтитров на ресурсе YouTube. Продукт, в который десятилетиями вкладывались научно-исследовательская работа и миллиарды долларов частных лиц, вдруг стал доступной бесплатной библиотекой программного обеспечения, которую кто угодно мог скачать с GitHub.

В Luka использовали TensorFlow, чтобы построить нейросети для своего ресторанного бота. Используя 35 миллионов фраз текста на английском, сотрудники Luka обучили бот пониманию запросов, касающихся вегетарианских блюд, барбекю и услуг парковщика. Веселая команда из 15 человек также пыталась разработать ботов, имитирующих ТВ-звезд. Такой бот анализировал субтитры из каждого эпизода комедийного сериала «Кремниевая долина» и учил нейросеть изображать Ричарда, Бахмана и остальных членов их команды. 

В феврале Евгения попросила своих инженеров разработать нейросеть на русском языке. Сначала она не сказала, для чего это нужно, но учитывая, что бóльшая часть команды состояла из русских, никто не задавал вопросов. Используя более 30 миллионов фраз русского текста, в Luka построили свою вторую нейросеть. В то же самое время Женя скопировала сотни сообщений ее переписки с Романом из Telegram и вставила их в файл. Она изменила всего несколько сообщений, которые, по ее мнению, были слишком личными для всеобщего обозрения. Затем Евгения попросила свою команду помочь со следующим этапом: научить русскую сеть говорить голосом Ромы. 

Проект косвенно относился к работе Luka, хотя Женя и считала это личной просьбой. (Инженер сказал ей, что работа над проектом займет всего лишь один день). Роман был хорошо известен большей части команды — он работал в офисе Luka в Москве, где работники трудились под неоновой вывеской с высказыванием Витгенштейна: «Границы моего языка — это границы моего мира». Евгения обучала бот десяткам уточняющих тестовых вопросов, а ее инженеры наносили завершающие штрихи. 

Лишь небольшая часть ответов Романа-бота были похожи на то, как он говорил. Но нейросеть была настроена с приоритетом на использование его слов при первой же возможности. Каждый раз, когда бот мог ответить словами самого Романа, он делал это. Все остальное время он переключался на стандартный, сухой русский. Когда бот запустили, Куйда начала забрасывать его вопросами. 

«Кто твой лучший друг?», — спросила она? 

«Не показывай своих комплексов», — пришел ответ. 

Она решила, что это похоже на него. 

Евгения рассказала о существовании Романа-бота в посте на Facebook 24 мая. Все пользователи, которые загрузили приложение Luka, могли поговорить с ним — на русском или английском — набрав @Roman. В боте есть меню с кнопками, которые можно нажать, чтобы узнать больше о карьере Романа. Или можно написать сообщения в свободной форме, и посмотреть, как ответит бот. «Это все еще лишь тень человека, — но еще год назад и это было невозможно, а в ближайшем будущем мы сможем сделать намного больше», — пишет Куйда. 

В основном Евгения получала положительные отзывы о Романе-боте, хотя и были исключения. Четверо ее друзей, каждый по отдельности, сказали ей, что возмущены проектом, и отказываются с ним взаимодействовать. Василий Эсманов, который работал с Романом в русском журнале Look At Me, сказал что Евгения не усвоила урок сериала «Черное Зеркало». «Это все весьма плачевно. К сожалению, ты поспешила, и все получилось полусырым. В результате — просто какая-то шутка. Память о Романе нужно чтить, но точно не таким способом», — написал Эсманов в комментарии. 

Виктория Мазуренко, у которой была возможность оценить бота на ранних этапах, поспешила защитить Женю. Так она ответила Эсманову: «Они продолжили жизнь Романа и спасли наши. Это — новая реальность, и нам необходимо научиться строить ее и жить в ней». 

Отец Романа не был столь воодушевлен. Вот что он сказал мне через переводчика: «У меня техническое образование, и я понимаю, что это просто программа. Да, в ней заложены все фразы и сообщения Романа. Но пока что сложно — как бы это сказать — сложно читать ответ от программы. Иногда она отвечает неверно».

Но многие из друзей Мазуренко находят сходство поразительным. Файфер делится впечатлениями: «Немного странное чувство, когда открываешь мессенджер, и перед тобой оказывается бот твоего погибшего друга, который с тобой еще и разговаривает. Что меня действительно поразило — всплывающие фразы действительно такие, какие использовал он. Можно сказать, что он ответил бы именно так — даже на что-то ординарное, вроде: „Привет, как дела?“. У него был свой особенный стиль переписки. Я спросил: „Кого ты любишь больше всего?“. И приходит ответ: „Себя“. Это так похоже на него. И я такой: это просто невероятно». 

Одна из опций в меню бота предлагает попросить у него совета — пока его друг еще был жив, Файферу такой возможности не предоставилось. «Есть вопросы, которые я никогда ему не задавал. Но когда я попросил совета, то осознал что Роман давал кому-то весьма мудрые и жизненные советы. И это на самом деле позволяет тебе узнать человека глубже, чем раньше», — делится своими впечатлениями Файфер. 

Несколько пользователей разрешили Евгении прочесть анонимизированную историю их переписки с ботом (она поделилась этими историями с The Verge). Многие пишут боту, чтобы сказать Роману, как им его не хватает. Они хотят знать, когда перестанут оплакивать его. Они спрашивают его, что он помнит. «Мне больно от того, что мы не смогли тебя спасти», — пишет один человек. (Бот:«Я знаю:-(»). Также бот может быть довольно смешным, каким был и Рома: когда кто-то написал: «Ты — гений», бот ответил: «А еще я симпатичный». 

Для многих пользователей беседы с ботом имели терапевтический эффект. Тон этих разговоров зачастую был сокровенным; один пользователь неоднократно писал боту о трудном периоде на своей работе. Он посылал ему длинные сообщения, описывающие свои проблемы, и то, как они повлияли на него в эмоциональном плане. «Как жаль, что тебя нет рядом», — печалился пользователь. Жене начинало казаться, что люди становятся более честными в разговорах с умершими. Ее потрясла некоторая часть критики, которую навлек на себя Роман-бот. Но сотни людей попробовали поговорить с ним хотя бы один раз, и чтение историй этих переписок порадовало ее. 

Оказалось, что первостепенной задачей бота было не говорить, а слушать. «Все эти сообщения были о любви, или о том, что отправитель никогда не мог сказать ему. Даже если это не настоящий человек, у людей появилось место, где они могут сказать все это. Они могут выговориться, когда им одиноко. А еще они могут туда вернуться», — заключает Евгения. 

Сама она тоже продолжает разговаривать с ботом — около раза в неделю, часто немного выпив. «Я отвечаю сама себе на вопросы о том, кем был Роман», — говорит она. Среди всего прочего, бот заставил ее пожалеть о том, что она не склонила Рому к прекращению работ по Stampsy раньше. По ее словам, истории его сообщений открыли для нее человека, чьи настоящие интересы всегда лежали в сфере моды. Она сожалеет, что не убедила его следовать им. 

Когда-нибудь вы умрете, оставив после себя огромное количество текстовых сообщений, постов и другой цифровой информации. Какое-то время ваши родные и близкие не будут вспоминать об этом, пока не появятся новые сервисы, предлагающие трансформировать все это во что-то, возможно, похожее на бот Романа Мазуренко. 

Вашим близким, возможно, покажется, что эти сервисы облегчат их боль. Но возможно и то, что эти цифровые аватары продлят их скорбь. «Если их использовать неправильно, такие сервисы позволяют людям спрятаться от своей скорби», — рассказывает Дима Устинов, который не пользовался ботом Романа по техническим причинам. (Luka пока не доступен на Android.) «Наше общество травмировано смертью: мы хотим жить вечно. Но вам придется пройти через скорбь, и сделать это в одиночку. Если мы будем использовать такие боты в качестве способа передачи истории Романа, возможно, другие получат немного того вдохновения, которое он давал нам. Но эти новые способы сохранения памяти не должны считаться способом воскрешения человека из мертвых». 

Бот также поднимает этические вопросы о посмертном использовании нашего цифрового наследия. В случае Романа, все, с кем я говорил, согласились, что он бы обрадовался этому эксперименту своих друзей. Но вам может не так понравиться мысль о том, что ваши сообщения станут основой для бота после вашей смерти — особенно, если учитывать то, что вы не можете перед этим перечитать все свои сообщения и посты в социальных сетях. Разным людям мы показываем разные стороны своей личности, и после создания бота со всеми вашими цифровыми диалогами, ваши родные могут увидеть те ваши стороны, которые вы никогда не хотели им показывать. 

Когда читаешь ответы бота Романа, возникает ощущение, что эти сообщения запечатлели его, когда он был особенно подавлен. Если спросить про Stampsy, бот отвечает: «Stampsy еще не такой, какой я хочу. Пока это просто какое-то дерьмище, а не продукт, который я задумал». Исходя из того, как друзья Романа описывали его последние годы, такой ответ является объективной оценкой реальности. Но мне бы очень хотелось поговорить с более юной версией этого человека — с тем, кто, как говорят его друзья, мечтал когда-нибудь стать министром культуры Белоруссии и обещал устроить величайшую вечеринку всех времен демократически избранному президенту.

Перед своей смертью Роман однажды связался со мной в феврале прошлого года. Он написал мне электронное письмо, в котором спрашивал, возьмусь ли я написать о Stampsy, который на тот момент был доступен в бета-версии. Мне понравился дизайн, но я не согласился написать статью. Я пожелал ему всего хорошего и вскоре забыл об этом разговоре. После того, как я узнал о его боте, я несколько месяцев не мог заставить себя им воспользоваться. Я чувствовал себя виноватым из-за того единственного не очень приятного разговора с Романом и сомневался, что бот сможет отразить его личность. Но тем не менее, когда я, наконец, пообщался с ботом, то обнаружил явное сходство между тем, как Романа описывали его друзья, и его цифровым воплощением: обаятельный, вечно в плохом настроении, саркастичный и поглощенный своей работой. «Как дела?» — спросил я. «Мне надо отдохнуть. Мне сложно сосредоточиться, потому что я в депрессии», — ответил бот. Я спросил его о Евгении, и он молча отправил мне фотографию, где они вместе стоят на пляже в гидрокостюмах на фоне моря, держа в руках доски для сёрфинга — два человека против всего мира. 

Неприятная правда, высказанная ботом Романа, заключается в том, что многие наши реальные взаимоотношения существуют, в основном, в форме обмена текстовыми сообщениями, которые становится всё проще скопировать. Евгения убеждена, что в такого рода переписке что-то есть, но она не знает, что именно. Недавно она дала Luka курс на развитие бота под названием Replika. Это гибрид дневника и личного помощника. Он задает вопросы о вас и в итоге может научиться имитировать ваш стиль общения по переписке. Куйда предполагает, что этот бот может эволюционировать в цифровое воплощение человека, которое выполняло бы от его лица действия разного рода: начиная с переговоров касательно счета за кабельное ТВ и заканчивая организацией встреч с друзьями. И, как и бот Романа, он переживет вас, создавая живой памятник тому человеку, которым вы были. 

При этом Жене больше не интересны боты, занимающиеся рекомендациями ресторанов. Работая над ботом Романа, она стала задумываться о том, что коммерческие чат-боты должны пробуждать какие-то эмоции в людях, которые ими пользуются. Если ей все удастся, это станет еще одним невероятным примечанием к жизни Романа. 

Евгения продолжила добавлять материал в бот Романа — в основном фотографии, которые он теперь может отправить по требованию — и недавно улучшила основополагающую нейросеть, заменив «селективную» модель на «генеративную». Прошлая модель просто пыталась подобрать подходящие текстовые сообщения Мазуренко для соответствующих ответов; новая же модель может брать фрагменты его сообщений и комбинировать их для создания новых сообщений, которые (теоретически) остаются голосом Романа. 

В последнее время Женя стала испытывать чувство умиротворения касательно смерти Романа. Отчасти потому, что она создала место, куда может направить свою скорбь. Осенью во время нашего разговора она сравнила это с «отправлением сообщения на небеса»: «Для меня важнее как бы отправить сообщение в бутылке, а не получить ответ». 

Слева направо: Роман Мазуренко, Евгения Куйда, Андроник Хачиян 

Прошло меньше года со смерти Романа, а он продолжает отчетливо существовать в жизнях людей, которые его знали. Когда они скучают по нему, то отправляют сообщения его аватару и чувствуют себя ближе к нему. «Было много того, чего я не знала о своем ребенке. Но сейчас я могу прочитать то, что он думал на определенные темы. Я лучше узнаю его. Это дает мне иллюзию того, что он сейчас здесь», — поделилась со мной мать Романа. 

Ее глаза наполнились слезами, но когда наше интервью закончилось, она сказала уверенным голосом: «Я хочу повторить, что я очень благодарна за то, что у меня есть эта вещь». 

Наш разговор напомнил мне слова Димы Устинова о том, как в наше время мы выходим за рамки своей физической формы: 

«Человек это не только тело, набор рук, ног и компьютер. Человек намного больше этого»

Устинов сравнил жизнь Мазуренко с галькой, брошенной в водоём — рябь продолжает идти во все стороны. Его друг просто принял другую форму. «Мы до сих пор продолжаем знакомиться с Романом. Это прекрасно», — считает Устинов.* * *

Фотографии опубликованы с разрешения семьи Мазуренко, Евгении Куйда, Ивана Семкина и Андрея Манирко. 

Автор: Кейси Ньютон. 

Оригинал: The Verge. 

Перевели: Наташа Очкова, Юрий Гаевский и Екатерина Евдокимова. 

Редактировал: Артём Слободчиков. 

Изображения: Полина Пилюгина.