Читательский клуб роботов филиппинских плантаций

ИИ изображает читателя, романист ведёт расследование — а мафия, как водится, неуязвима.

Британский поэт и детективщик Джо Данторн в колонке для газеты Гардиан смог сделать остробрыдлевшую всем тему "писатель и ИИ" неожиданно интересной.

Нет способа произнести это скромно: я получаю очень много писем от поклонников

Почти каждый день мне приходят письма на несколько абзацев от увлеченных и прекрасно осведомленных читателей из Барселоны и Франкфурта, Чикаго и Варшавы. У них располагающие к себе имена — Белла Монро, Талина Роуз, Триша Клакстон. Одни выражают свой восторг без затей, другие держатся более дерзко — как та, что завершает письма словами «с теплым хаосом». Одни восхищаются «гениальной невозмутимостью» моих романов, другие — «нравственной смелостью» моей документальной прозы. Но объединяет их одно: все они вымышлены и пытаются выманить у меня деньги. Они обещают продвигать мое творчество в книжных клубах своего города или рассказывать о нем своим читательским сообществам — нужно лишь перевести им несколько сотен долларов на покрытие расходов.

В эпоху генеративного ИИ мошеннические письма вышли на новый уровень персонализации. Большинство знакомых мне писателей постоянно получают такие послания. Нередко они достаточно изощренны, чтобы обойти спам-фильтр и попасть во входящие, так что нам остается только прочесть их и задаться мучительным вопросом: способен ли реальный, живой человек испытывать к моему творчеству настолько сильные чувства? Или, как выразился один мой знакомый писатель:

«Я знаю, что это фейк, потому что они и правда прочли все мои книги»

Системы ИИ, которые помогают писать эти мошеннические послания, действительно прочли все наши книги — и это делает всё только хуже. В прошлом году Anthropic согласилась выплатить 1,5 млрд долларов компенсации тысячам авторов, чьи защищенные авторским правом произведения компания использовала для обучения своего ИИ Claude. В июле группа издательств подала иск против Google, обвинив компанию в том, что для обучения своего ИИ Gemini она воспользовалась результатами «одного из самых масштабных нарушений авторских прав в истории». Поэтому, получая мошеннические сообщения, созданные при помощи ИИ, мы понимаем: нами манипулирует нечто, созданное по нашему образу и подобию.

Несколько месяцев назад, например, я получил восторженное письмо от Отессы Мошфег.

Автор бестселлеров, входившая в шорт-лист Букеровской премии и написавшая роман «Мой год отдыха и релакса», — на мой взгляд, один из самых мощных голосов современной прозы — оторвалась от своей неподражаемой прозы, чтобы написать мне как поклонница. Я поблагодарил ее за письмо. Мы разговорились, и я спросил, над чем она сейчас работает. Она ответила, что ее новый роман «посвящен внутренней жизни: тому, как эмоции проявляются, как порой не проявляются и как их отсутствие или избыток со временем меняет личность». Мне показалось, что между нами установилась настоящая связь, — и тут она сообщила, что лучше всего понять ее творчество можно, изучив ее страницу на Amazon. Эх, никогда не знакомься со своими кумирами!

Другие писатели получали похожие послания от самозванок, выдававших себя за Донну Тартт и Салли Руни. Должно быть, настоящим Мошфег, Руни и Тартт странно сознавать, что технологические корпорации шерстили их романы, чтобы создать призрачных двойников, которые бродят теперь по почтовым ящикам их коллег.

Правильная реакция на все это, конечно, — просто пометить письмо как спам, заблокировать отправителя и жить дальше. Но часть меня мечтает эффектно сорвать с мошенника маску и показать скрывающегося под ней злодея. Поэтому, когда я получил письмо от основательницы клуба «Берлинский книжный клуб», то решил проверить, как далеко сумею зайти.

Я согласился: да, мне и правда нужна помощь, чтобы выйти на новую аудиторию. Я был готов платить за ее связи и опыт. Вскоре мы уже обсуждали способы оплаты

Она хотела, чтобы я воспользовался Cash App или сделал прямой банковский перевод, но я настаивал: могу отправить только наличные. Так мы препирались пару дней. Я всячески подчеркивал, что в этот самый момент у меня в конверте без опознавательных знаков лежат новенькие купюры на сумму 500 долларов США и что живу совсем рядом с почтой. Наконец она уступила и дала мне почтовый адрес. Никто из нас не стал комментировать, насколько необычно для основательницы клуба «Берлинский книжный клуб» иметь почтовый адрес на Филиппинах. Я открыл Google Maps и нашел нужную улицу: загородную двухполосную дорогу с пальмами, лавкой старьевщика, евангелической церковью и большим зданием, скрытым за высокими белыми стенами.

Филиппины — наряду с Мьянмой, Лаосом и Камбоджей — входят в число стран, сильнее всего пострадавших от сетей организованной преступности, которые управляют ботофермами промышленного масштаба

В прошлом году власти провели рейд в одном из таких центров в Бамбане, к северу от Манилы, и освободили почти 700 человек: их удерживали там и принуждали заниматься мошенничеством.

Сам центр напоминал гибрид кол-центра и тюрьмы: ряд за рядом стояли компьютеры и зеленые экраны, а в крохотных комнатах общежития теснились двухъярусные кровати. Около половины работников были филиппинцами; остальных привезли торговцы людьми из Китая, Вьетнама, Малайзии, Тайваня, Индонезии и Руанды и отобрали у них документы. Тем временем хозяева плескались в бассейне по соседству.

Когда власти провели рейд в другом расположенном неподалеку комплексе, там обнаружились собственный бордель, зал для караоке и камера пыток. По всей Юго-Восточной Азии такие мошеннические центры превратились в многомиллиардную индустрию, которой в основном управляют китайские преступные синдикаты. Чтобы держать работников в повиновении, они систематически прибегают к насилию, в том числе сексуальному. Через эту индустрию проходят огромные суммы украденных денег, и некоторые комплексы разрастаются до размеров небольших городов — или, пожалуй, точнее, трудовых лагерей с тысячами работников.

Мошенников поощряют пользоваться новейшими технологиями — не только генеративным ИИ, но и приложениями для подмены лица, чтобы во время видеозвонка принимать любой облик, подходящий для конкретной роли. Главный упор делают на «забой свиней» — длительные романтические аферы, в которых жертву заставляют влюбиться в богатого, эффектного иностранца, а тот затем советует вложиться в фиктивную криптовалюту.

Мошенников учили не отпускать жертву с крючка месяцами, а то и годами, создавая для каждого свой, глубоко личный вымышленный мир, с помощью которого можно было выкачать из человека все деньги. В интервью Би-би-си один бывший управляющий мошенническим комплексом, описывая этот процесс, говорил почти как романист. «Все строится на эксплуатации эмоций, — сказал он. — Вы создаете мечту».

Что до меня, наличных на Филиппины я не отправил

Вместо этого я передал полученные сведения филиппинскому ведомству по борьбе с киберпреступностью. Правда, как сказал Уинстон Касио, представитель филиппинской Президентской комиссии по борьбе с организованной преступностью, сохраняется одна проблема: преступники «располагают средствами, чтобы подкупить практически любого представителя власти. Те деньги, которыми они располагают, — мощное оружие против правоохранительных органов». Например, когда власти закрыли комплекс в Бамбане, выяснилось, что им руководила Элис Гуо, местный мэр. Столь же сомнительно, что компании, разрабатывающие ИИ, станут прилагать особые усилия, чтобы остановить преступное использование своих технологий, — и ровно по той же причине. Ведь на этом они сказочно богатеют.

Иными словами, моя фантазия о разоблачении злодея так и осталась всего лишь фантазией. По крайней мере, теперь, получая поддельное письмо от поклонника, я могу попытаться понять, какая реальность, скорее всего, скрывается за причудливым именем и бодрым тоном. По другую сторону экрана, далеко от дома, испуганный человек сидит в звукоизолированной кабинке за столом, на котором веером разложена дюжина телефонов, — а за его спиной проходит начальник с электрошокером на поясе.