При дворе короля ИИ
Славой ЖижекДве иллюстрации (обложка и внутренние страницы) к классическому рок-альбому 1969 года «In the Court of the Crimson King» группы King Crimson сегодня актуальны как никогда. Их создал Барри Годбер, программист, друживший с автором текстов песен группы Питером Синфилдом и занимавшийся рисованием в качестве хобби. Годбер создал эти изображения после прослушивания демозаписей альбома и передал их Синфилду. «Он появился в студии с теперь уже знаменитой картиной под мышкой. Группа сразу же была очарована тем, что создал Годбер. Картина, которая, как говорят, основана на его собственном отражении в зеркале, идеально передавала необузданные эмоции и потусторонние темы альбома. Центральная фигура, шизоидный человек, изображена на обложке, его крик настолько пронзительный, что его почти слышно. Эта поразительная визуальная сила заставила многих купить альбом, ничего не зная о его содержании. Внутри разворота слушатели знакомились с другим персонажем: багровым королем. Круглолицый и лысый, на первый взгляд он кажется безмятежным и жизнерадостным, но при ближайшем рассмотрении обнаруживаются тревожащие детали, такие как его меланхоличные глаза и острые клыки. Вместе эти два персонажа воплощают изменчивые мотивы альбома — резкие и хаотичные с одной стороны, мелодичные и спокойные с другой».
На этих двух изображениях я вижу лицо человека, попавшего в ловушку ИИ-агента, и то, как он воспринимает/персонализирует ИИ-агента, который им управляет, — не кого иного, как самого Сатану. Пронзительный крик — вполне уместный образ человека, осознающего, насколько им манипулируют ИИ-агенты; но еще интереснее багровый король, чья доброжелательная улыбка и меланхоличные глаза скрывают насилие, выдаваемое острыми клыками — Сатана, как правило, обращается к нам с улыбкой и творит свои ужасы в меланхоличном настроении, словно ему грустно, что он должен выполнить свой извращенный долг — разрывать нашу плоть своими острыми зубами. Так кто же такой Сатана?
Евангелие от Иоанна (в остальном весьма проблематичное) дает несколько ключевых указаний на то, как понимать Святой дух, который является противоположностью Сатаны. Слово śāṭān с иврита непосредственно переводится как «противник» или «обвинитель», подчеркивая роль обвинителя верующих перед Богом (как в Книге Иова). В отличие от Сатаны, Святой дух называется параклетом: производное от para (рядом) и calein (призывать), это означает того, кто призван стоять рядом с человеком для поддержки – помощник, утешитель, советник или защитник. Вот первый сюрприз: если мы переведем ситуацию в судебные термины, Сатана подобен государственному обвинителю, хитрому парню, который любит расставлять ловушки, в то время как Святой дух подобен адвокату защиты, консультирующему нас о том, как избавиться от обвинений обвинителя.
Как здесь возникает понятие долга? Традиционная структура, характерная для католицизма, — это долг наш (человечества, впавшего в грех), который оплачивает сам (Сын) Божий, приносящий себя в жертву, чтобы списать наш долг и открыть путь к искуплению, акт, который делает нас еще более бесконечно обязанными. Но я думаю, что протестантизм позволяет иное прочтение: мы — человечество — не вечно обязаны Богу за Его жертву; это сам Господь Бог стирает себя на Кресте и тем самым отменяет всю структуру долга. Святой дух — это сообщество верующих, освобожденных от всякого долга или основополагающей вины.
Следующая ключевая особенность Святого духа заключается в том, что, хотя Он представлен как личность, в основном Он описывается как безличная сила, подобная ветру, который просто дует, и мы не знаем, откуда он приходит и куда уходит: «Дух дует, где хочет, и слышишь звук его, но не знаешь, откуда он приходит и куда уходит; так и со всяким, рожденным от Духа». Греческое слово pneuma (а также еврейское rûah) означает и «ветер», и «дух», и в этой игре слов «ветер» играет первостепенную роль. Святой дух — это безымянный ветер, который окутывает и движет общиной верующих, и Евангелие от Иоанна не боится сделать радикальный вывод: поскольку Святой дух пришел как замена мертвому Христу, ученикам было выгодно, чтобы Иисус «пошел к Отцу» (то есть претерпел ужасную смерть на кресте); если бы Он не пошел, то Дух не пришел бы. Если читать это буквально и радикально, то пришествие Святого духа уже само по себе является вторым пришествием.
Сегодня для нас, конечно, главным искушением является представление цифрового большого другого как новой формы Святого духа, как защитника, который оберегает нас и направляет. Но как он это делает – не только на уровне контента, но уже на уровне его формы? Способы, которыми ИИ контролирует нашу жизнь, достигают всё новых и новых высот. Достаточно упомянуть OpenClaw, китайский автономный инструмент искусственного интеллекта, который можно запрограммировать на непрерывное выполнение задач с полным контролем над устройством пользователя. Вместо простого формата вопросов и ответов, как у большинства чат-ботов с ИИ, OpenClaw использует ту же базовую технологию для независимого управления приложениями, веб-браузерами или умными бытовыми приборами на основе команд через широко используемые мессенджеры, такие как WhatsApp. Однако я вижу гораздо более радикальную угрозу в развитии «подключенного к сети мозга». Недавно мы узнали, что компания Илона Маска Neuralink, занимающаяся имплантацией нейроинтерфейсов, начнет массовое производство устройств мозг-компьютер и перейдет к полностью автоматизированной хирургической процедуре в 2026 году. Имплантат предназначен для помощи людям с такими заболеваниями, как травмы спинного мозга. Первый пациент использовал его для игры в видеоигры, просмотра интернета, публикации в социальных сетях и перемещения курсора на ноутбуке. Как обычно, имплантат представлен как устройство для помощи людям с ограниченными возможностями, но как насчет управления мыслями?
Независимо от этих вопросов, следует поднять здесь вопрос о власти. В Новое время получил распространение принцип: никакие власти не должны править народом, народ должен править сам. Но в современном популизме темная, непристойная сторона обращения к народу также стала ощутимой. Народ, к которому относится популизм, не существует: популизм по определению является маской власти, это фантазийная сущность, которую призывают новые господа, чтобы оправдать свою роль слуг народа, позволяя им объявлять своих оппонентов врагами народа. Первый шаг к популизму был сделан столетия назад, когда, чтобы противостоять потере традиционного авторитета, лидер (король) провозгласил себя слугой. Фридрих Великий определил себя как «первого слугу государства», и именно так, начиная с Просвещения, господин оправдывает свою власть: в действительности он является величайшим слугой, слугой всех своих подданных/слуг. (В архаичных обществах господин так же является слугой, но не народа, а трансцендентных сил, Бога и т.п.) Но существуют различные формы этой позиции «служения слугам», от технократии и религиозного фундаментализма до непристойного господина-клоуна или даже, как можно охарактеризовать Мао Цзэдуна, до владыки беззакония, господина, который периодически организует восстания против установленного им самим порядка.
Непристойный господин не является непосредственно реакцией на несостоятельность традиционного господина; его образ — это реакция на то, что знание (S2, агент университетского дискурса) не может должным образом функционировать на месте агента дискурса (социальной связи), поэтому его необходимо дополнить новой непристойной фигурой. Поскольку непристойный Господин функционирует как сверх-Я, следует вспомнить старое утверждение Ж.-А. Миллера о том, что сверх-Я находится на стороне S2, а не на стороне S1. Именно поэтому авторитет, которым ИИ давит на нас, — это авторитет сверх-Я, но почему материнского сверх-Я?
В критическом комментарии ко мне Дибиокамал Митра написал, что Жак-Ален Миллер «совершенно разозлил его /Жижека/ и его друзей, когда сказал, что фрейдистское сверх-Я следует располагать не в S1, а в S2» – это абсурдное утверждение. Я до сих пор отчетливо помню момент, около сорока лет назад, когда на публичном семинаре Миллер предположил, что сверх-Я следует располагать в S2, а не в S1. Первой реакцией меня и других участников (не друзей) было удивление; мы не поняли, но после короткого размышления я сразу же встал на сторону Миллера и следовал ей в своих работах. Это сам Миллер позже изменил свою позицию и предположил, что сверх-Я «это, безусловно, закон, но не закон умиротворения и социализации, а скорее бессмысленный закон, поскольку он влечет за собой дыру, отсутствие обоснования. Это закон как унитарное означающее, S1, значение которого нам неизвестно. [...] Сверх-Я — это доказательство и парадокс, вытекающие из единственного означающего, которое в качестве такового бессмысленно. Именно поэтому мы смогли поместить сверх-Я, в первом анализе, в S (зачеркнутое A), которое предполагает, что вероятный полноценный закон Другого может быть воспринят через его нехватку».
Миллер также предполагает связь между сверх-Я и желанием матери: «Сверх-Я как бессмысленный закон очень близко к желанию матери до того, как это желание метафоризируется и даже подчиняется имени отца. Сверх-Я близко к желанию матери как к капризной прихоти без закона». А вот здесь я не согласен: сверх-Я — это не автономная S1 без основания в знании, это поле знания без S1, без закона, которому нужно господское означающее. Таким образом, сверх-Я не является частью объективной реальности (которой является ИИ); это способ, которым человеческий субъект воспринимает пространство знания без господского означающего, то есть это фантазия субъекта, пойманного в сети агента ИИ. Сверх-Я воспринимается как материнское не из-за своей причудливой природы, а потому что оно, кажется, обеспечивает безопасное замкнутое виртуальное пространство, защищенное от вторжений реальности.
Задача, следовательно, состоит ни в чем ином, как в том, чтобы преодолеть фантазию о материнском сверх-Я, защищающем нас, и возродить в новых условиях автореферентную пустоту, которая называется субъект – короче говоря, если индивид хочет вырваться со двора короля искусственного интеллекта и пробудиться как субъект, первым шагом является крик, как на ужасающем лице, которое мы видим на обложке альбома «In the Court of the Crimson King». Этот крик – реакция на призыв сверх-Я наслаждаться: сама машина ИИ воспринимается как материнское сверх-Я, которое обращается к нам, своим пользователям, с призывом наслаждаться, и мы подчиняемся ему в точности в духе Трампа: «Мы так много побеждаем, что действительно не знаем, что с этим делать. Люди спрашивают меня: пожалуйста, пожалуйста, пожалуйста, господин президент, мы слишком много побеждаем. Мы больше не можем этого выносить. А я говорю: нет, нет, нет, вы снова победите. Вы победите по-крупному. Вы победите еще больше, чем когда-либо». Вот как вы функционируете, когда просматриваете веб-страницы: вам всегда мало, вы всегда хотите большего, переходите на следующий сайт, задаете больше вопросов…