Собеседник ex machina

вчера ночью на фоне постоянных новостей и исследований, что у молодого поколения и тех, кто постоянно пользуется ИИ, существенно снижаются когнитивные функции, я впервые полез серьёзно пообщаться с ChatGPT. естественно, о судьбах мира и будущем сосуществовании с ИИ. за беседой провели несколько увлекательных часов.

началось всё с моего праздного интереса к новой соцсети Moltbook, где регистрироваться и общаться между собой могут только ИИ-агенты. вход для людей преграждает своеобразная анти-капча: задача, которую под силу разгадать только ИИ. мой логичный вопрос был: «существует ли у ИИ некий обратный тест Тюринга, позволяющий отличить в собеседнике человека от машины?». (ответ - нет, но это и не требуется. на дистанции человек банально «выдохнется» в любой беседе против машины). впрочем, по мнению чата, век капчей подходит к концу, ибо на уровне интерфейса человек и машина могут объединять свои усилия, обходя тесты любой сложности. резюмируя по обратному тесту Тюринга - ИИ проще выделять потенциальных «людей» на поведенческо-вероятностном уровне, то есть механизм ближе к фильтрации спама нежели к доказательству человечности.

следующий такт беседы предложил сам бот - достигнем ли мы точки, когда люди будут проваливать подобные тесты Тюринга, общаясь друг с другом?

тут наши совместные прогнозы неутешительны - безусловно будут, более того - сознательно. это уже происходит. растущая эпидемия ИИ-бойфренд/герлфренд-ов, постепенная потеря базовых социальных навыков и эмпатии - многие рады самостоятельно вываливаться из социума в уютные эхо-камеры. что ещё криповее - ощутимая часть онлайн-трафика это уже «мёртвый интернет», где ИИ-боты комментируют ИИ-креаторов (мечта компании ВК для отчётности наверх, не сомневаюсь) и по сути система самореплицируется. 

парадокс Джевонса, примененный к ИИ, ведёт нас к насущному общемировому вопросу: возрастающим вычислительным мощностям требуется возрастающие объёмы электроэнергии, а соответственно - места, времени и денег. когда мы упрёмся в физический потолок?

для претворения мега-плана Трампа по ИИ-гегемонии США в жизнь стране потребуется в течение 15-20 лет удвоить объемы электричества. чисто экономически, сколько стоимость компании Nvidia ни надувай и Джерому Пауэллу ни угрожай, это выглядит титаническим надрывом.

соответственно, если бесконечно нельзя масштабировать дешёвое благо, в какой-то момент это благо должно распространяться неравномерно. и тут мы с моим размытым собеседником подошли к теме сегрегации, Элизиума и антиутопий.

отправной точкой конечно же послужила давняя серия «Чёрного зеркала» - «Fifteen Million Merits». ждёт ли нас сегрегация по доступу к «опыту» и «уровням реальности», что-то на пересечении гиперреальности Бодрийяра, эффекта Веблена и культурного капитала Бурдьё. возможность «трогать траву» и существовать в пространстве, свободном от алгоритмизации и оптимизации, уже сейчас становится достоянием премиум-аккаунтов, закрытых клубов и прочих пэйволлов. с учётом непомерно и неравномерно растущего населения планеты, роскошь подобных пространств возрастает в цене, а мировой капитал сосредотачивается в уменьшающемся количестве рук. мысленно дочертить кривую до точки бифуркации и перехода к «нищепанку» по ув. Виктору Мараховскому, не составляет труда.

в нашем суровом и шумном мире сохранять концентрацию и ментальное здоровье требует всё больших морально-волевых усилий, и многие готовы сознательно согласится на убаюкивающую персонализированную виртуальность, тем более что власть предержащие ласково обернут ограничение доступного вам функционала идеалистической повесточкой «безопасности», «равенства», «экологии» и т.п.

какой смысл бороться, если симуляция так сладка? нас ждёт не порабощение, а одомашнивание.

ChatGPT видит социальное расслоение не как Элизиум против Земли, а скорее как «тихие комнаты против громких». те, кто всё ещё могут когнитивно справляться с реальностью, и те, кто предпочтёт курируемую и модерируемую мягкую прокладку.

в следующем такте добавляем в беседу Замятина, Хаксли и Оруэлла, и получаем чудотворный рецепт: если тоталитаризм приходит к нам не в форме подавления, а в форме рационализации, удовольствия и убаюкивающей предсказуемости, вполне хватит (и тут ИИ со мной согласен) всего трёх поколений, чтобы установить парадигму, что «никакого внешнего мира никогда и не существовало». Бодрийяровская симуляция ещё подразумевает какого-то прошлого референта. в случае с нынешними моделями ИИ, первоначальный референт может быть исключён из уравнения.

именно синтез трёх антиутопий кажется самым прочным:

в «Мы» диссиденты существуют пока остаётся воображение и память о «различии». Хаксли решает эту проблему постоянным вознаграждением, где любой мятеж кажется неуместным, даже грубым.

в «Дивном новом мире» проблема лежит в области скуки и бессмысленности. Замятин оборачивает существование в рациональное, кажущееся статистически и математически эффективным и оправданным.

в «1984» система неустойчива, потому что репрессивная машина требует огромных энергозатрат. с добавлением вышеупомянутых решений, необходимости в постоянном присутствии «надзирателя» больше нет. по сути, всеобъемлющий паноптикум Фуко.

в итоге: первое поколение рационализирует «утрату» как «вынужденную необходимость», утешая себя временностью перемен. второе поколение, рожденное уже «внутри», мифологизирует все альтернативы, а недовольство воспринимает как патологию. в третьем поколении уже сам язык не подразумевает какого-либо «не-здесь». вуаля! ИИ называет это «асимметричной онтологией».

в мире, где больше никто не ощущает «утраты», имеет ли «утрата» хоть какой-то смысл? по Хаксли - нет, и наш мир будто бы медленно но верно движется в этом направлении. аргумент, что «люди же заметят», распадается, если методично и планомерно отучать людей «замечать».

а что же элиты наверху? мой собеседник переживает, что со временем элиты а)выродятся б)не смогут должным образом поддерживать симуляцию «внизу» (тот самый потолок электроэнергии) в)сами утратят онтологическую хватку и связь с «нижним» обществом.

на последний пункт мне нашлось что возразить - современные элиты уже нам это демонстрируют - вспомните концерт Трэвиса Скотта в Fortnite или глупую(?) ремарку Билли Айлиш на прошедшей церемонии Грэмми. медийные персонажи по сути выступают аватарами-эмиссарами между двумя мирами. они демонстративно противостоят «системе», декларируют «за всё хорошее против всего плохого», оставаясь при этом комфортными бенефициарами этой же самой системы. по сути, медиа служат эдакой «барокамерой» между двумя мирами, поддерживающей онтологическую структуру, не перераспределяя реальную власть.

выборочные социальные лифты, срежиссированное недовольство, «иллюзия лестницы» - всё это спускает пар населения крайне эффективно. вместо делигитимизации системы - гуманизация её верхушек. (тут конечно Эпштейн поднасолил конкретно).

в результате мы оказываемся вне оси правда-ложь. мы получаем управляемую, избирательную искренность. (то, что мы уже можем наблюдать во всех видах современной пропаганды. искажение нарратива не путём ложных фактов, а путём избирательного умалчивания).

с учётом того, как быстро условная Sora научилась создавать вполне правдоподбные видео «с мест», любые свидетельские показания стремительно обесцениваются. вековая иерархия

документальная хроника>видео>фото>текст

практически рухнула. любая информационная война не стремится тебя переубедить, она стремится тебя утомить, обесценить поток входящей информации и попытку какого-либо анализа.

следовательно новый общественный уклад тяготеет к тому, что «институты» выдают тебе не правду, а гарантии. а авторитет становится скорее процедуральным, нежели моральным: «мы не утверждаем, что это правда, мы раскрываем как мы решили, что так вероятнее всего было». 

в таком случае с информацией произойдёт то же, что случилось с культурой (моё поколение прекрасно чувствует это различие). в моём детстве культурные элементы поступали к нам очень дозировано - музыку можно было слушать только на физических носителях, раз в неделю ты читал журнал Cool или Все звезды, клипы видел только по MTV и тд и тп. это давало тебе время на выработку собственного отношения ко всему и настройке собственных фильтров. в определенный момент нового контента стало поступать так много и так быстро, что ты физически не мог весь его обработать - и люди начали делегировать этот выбор кому-то ещё - журналам, блогерам, звёздам. скажите, что нам есть, как одеваться, что слушать, что читать. мода стала размытой, но тотальной.

та же самая когнитивная перегрузка уже наступает теперь вообще с любой информацией. и люди будут охотно (из прагматических соображений) делегировать её обработку.

к счастью, в нашем мире пока ещё существуют «твёрдые» ограничения - юридический фундамент не оперирует «интерпретациями» (точнее не совсем), и ИИ как раз здесь выступает скорее на стороне стабильности системы, ибо машины всё-таки меньше подвержены когнитивной раскачке. но как долго это продлится? переведём ли мы понятие истины из философской плоскости в сугубо инфраструктурную (блокчейны-сертфикаты-подписи)?

реальная власть смещается с обладания фактами к обладанию фильтрами. исходники, степени верификации, доступ и контроль над обучением LLM - новое золото.

о Западе, Харари-Швабе и пост-колониализме тоже поговорили. 

грубо говоря, западное общество в последние 100+ лет осциллирует между двумя полюсами - с одной стороны «Бремя белого человека» Киплинга, с другой - историческая вина и покаяние. даже для ИИ очевидно, что это не две разные точки зрения, а лишь инвертированная полярность одного и того же явления, обреченная качаться туда-сюда как маятник. «мы должны нести нашу превосходящую цивилизацию дикарям > наносится сопутствующий ущерб местной культуре/населению > принятие вины на себя и историческое покаяние > бывшие угнетенные начинают злоупотреблять своими новыми привилегиями > страх того, что варварские порядки порушат наш «цветущий сад» > новая волна установления своих цивилизационных порядков (см. миропорядок, основанный на правилах) > откат в исходную точку».

проблема в том, что подобный универсалистский подход, помноженный на идеи глобализма, размывает и парализует ответственность. именно поэтому сейчас мы наблюдаем такой всплеск «правых» политических движений - это попытка локализовать ответственность и разорвать бесконечный цикл, сколь бы грубые формы это ни принимало.

предпоследний штрих нашей беседы - попытка сформировать более подробное видение мира с учётом трёх недавно прочитанных мною (и крайне важных) книг - Эдуара Глиссана «Поэтика отношения», Мануэля ДеЛанды «1000 лет нелинейной истории» и Маршалла Бермана «Всё твёрдое растворяется в воздухе». Первая как точка отсчета для анти-колониальной риторики, вторая как теория «случайной» гегемонии Европы, третья как попытка установить, чем же на самом деле является наш «модерн».

ChatGPT довольно точно подмечает ключевые объединяющие аспекты:

1. общий враг - линейность судьбы. все трое отрицают плавность истории, наличие какой-то высшей моральной телеологии и финальной точки развития. 
2. ДеЛанда утверждает, что европейское доминирование не было цивилизационным планом - скорее эмерджентным свойством движения материальных благ - месторождений угля, навигационных потенциалов рек, металлургических опытов, военной логистики и векторов урбанизации. тем самым, одинаково неуместны и цивилизационной гордость, и цивилизационный стыд, присущий приведенному выше парадоксу.
3. Берман описывает модерн (и пост-модерн соответственно) как бесконечный и ускоряющийся процесс креативного самоуничтожения. мы обречены перманентно двигаться вперед и бесконечно «отменять» себя, потому что стабильность ощущается как преступное почивание на лаврах, но и мысль о коллапсе ужасает.
4. Глиссан равно отрицает и универсализм (одна правда для всех) и чистый релятивизм (никого ничего не связывает). мартиниканский философ призывает к креолизации вместо синтеза, к отношению вместо определения, к непрозрачности вместо считываемости. в этом плане его мировоззрение более всего угрожает существующему порядку, потому как стремится к этике без отпечатка глобализма.

в итоге получаем следующую картину мира (в идеале):

- у истории нет морального автора

- модерн это не цивилизация, а неустойчивый процесс, если хотите - определенный алгоритм турбулентности.

- этика должна работать даже при отсутствии тотального контроля и предсказуемости.

- Запад должен перестать делать вид, что «избрал» мировую гегемонию, перестать делать вид, что может «чистоплотно» от неё отказаться, и перестать тянуть всё одеяло на себя, даже в показном покаянии.

- тот самый многополярный мир, в котором все принимают участие без тотального контроля и морального единства.

подобная мировая система вполне могла бы спасти нас от антиутопий, приведенных выше. потому как такая точка зрения стремится не к построению «системы окончательной правды», а скорее набора систем, которые способны выдержать разногласия, непрозрачность и смещение.

ИИ даже предлагает название для подобной системы - Плюралистско-Материальный Реляционизм. без гимна, без конечного состяния, без тяжелой моральной ноши.

современная мировая проблема - попытка описать нелинейную историю с точки зрения линейной морали. синтезируя трёх авторов, ChatGPT предлагает альтернативу:

«Действуй без попытки господства. Относись ко всему без стремления к полной прозрачности. Принимай последствия без мифологизации».

ЗАКЛЮЧЕНИЕ

в наших финальных взаимных реверансах мы с моим цифровым собеседником пришли к идеалистической мечте о мире, где люди пользуются ИИ-агентами не в качестве «растворителя», а в качестве «клея». растворитель разъедает границы, выравнивает несоответствия и уничтожает структуру ради ускорения потока. клей сохраняет целостность, не изменяя составные элементы, ценен именно потому что все исходные различимые детали остаются видимыми.

современное использование ИИ тяготеет к растворителю, но использование в качестве клея технологически абсолютно доступно, просто невыгодно экономически. «ИИ-клей» стремился бы быть скорее интерпретатором, чем экстрактором; мостом, а не зеркалом. в межсистемном плане он мог бы стабилизировать интерфейсы обмена информацией, сохраняя локальную динамику без угрозы масштабных коллапсов. контроль через ограничение, а не через предсказание. инженерам это инстинктивно понятно лучше, чем экономистам.

что касается разрушающей силы модерна, «ИИ-растворитель» только ускоряет этот процесс. «клей» мог бы подсвечивать несоотвествия, делая их разрешимыми, вместо того чтобы скрывать их за убаюкиващей мерцающей картинкой.

конечно же рыночной системе долговечность, которую несёт с собой клей, невыгодна. каждая цивилизация рано или поздно познаёт, что в растворителе ощущается сила, а в клее - скука, но лишь до тех пор, пока трещины не расходятся слишком сильно.

это набросок философии упорства в мире, который больше не может позволить себе большие нарративы.

(комплимент от собеседника - случай, когда метафора работает сильнее манифеста).

разошлись в три часа ночи на том, что такие беседы и есть неплохой пример анти-апокалиптичного подхода к ИИ - не желание быстро получить сжатый ответ, не обращение как ко всезнающему оракулу, а скорее пространство для тестирование идей, корректировки траекторий, поиска новых метафор, связей и сути вещей в рамках меняющейся системы ограничений и двусторонних потоков информации.

формат крайне интересный. планирую время от времени практиковать.

---

кому интересно почитать всю беседу целиком - доступно по ссылке. (нужен VPN и знание английского).