Золотые ИИ-рыбки
Сергей Жданов
На днях глава OpenAI Сэм Альтман выступал на слушаниях в Судебном комитете Сената и отвечал на вопросы американских топ-чиновников о том, как нужно регулировать ИИ. Перед заседанием на камеры Альтман предоставил комитету письменные показания, пролог к своему устному выступлению, где среди прочего перечислил самые позитивные, с его точки зрения, кейсы использования ИИ-технологий OpenAI:
- персонализированный ИИ-репетитор для учеников и студентов и ассистент для учителей на основе GPT-4
- финансовый анализ и управление инвестициями с помощью чатбота
- автоматизация служб поддержки клиентов и борьба с мошенниками
- юридический анализ и помощь в ведении дел для юристов
- помощь в изучении иностранных языков
- помощь в научных исследований, в частности в борьбе с онкологией
- креативная помощь музыкантам, режиссерам и другим творческим профессиям.
Публичную часть слушаний открыл сенатор Ричард Блументаль (точнее, аудиозапись с его голосом): «Слишком часто технологии опережают законодательную регуляцию. Необузданная эксплуатация личных данных, распространение дезинформации и усугубление технологического неравенства – мы видели, как алгоритмические предрассудки укореняют дискриминацию и предубеждения, а недостаточная прозрачность подрывает общественное доверие. Мы не хотим такого в будущем”. Затем уже сам Блументаль объяснил, что это не его голос, а дипфейк, натренированный на его реальных публичных выступлениях, а текст самой речи написал ChatGPT.
Заседание началось с ужасающей политиков демонстрации возможностей ИИ и крутилось не вокруг позитивного воздействия нейросетей на общество, а вокруг его смертельных угроз. К середине заседания слово взял сенатор Джош Хоули и обозначил эти опасности так:
- массовые потери рабочих мест
- нарушение права на неприкосновенность частной жизни
- массовые манипуляции поведением людей и, как следствие, манипуляции демократическими выборами.
Когда же самого Альтмана спросили о его наихудших страхах в отношении ИИ, он суммировал: «Мы, технологическая индустрия, наносим существенный вред миру. Это может проявится по-разному, но если эта технология (ИИ) пойдет по неправильному пути, то это будет очень неправильный путь».
В ИИ-индустрии (в неё входят разработчики ИИ, бизнесмены, журналисты, академики и политики) есть три типа мнений по поводу опасности ИИ.
Первый тип мнений исповедуют техно-пессимисты, уверенные, что мы стоим за шаг до уничтожения человечества от рук автономного ИИ. Самый яркий спикер на эту тему, безусловно, Елиезер Юдковский, который недавно предложил бомбить data-центры, чтобы спасти человечество от уничтожения нейросетями.
Второй тип мнений, техно-оптимистичный, гласит, что ИИ – это безусловное благо для людей, он никогда не взбунтует против наших интересов и поможет решить все возникающие в связи с его развитием проблемы, а алармизм по поводу новых технологий – типичный человеческий предрассудок. Этот тип мнений ярче всех представляет видный ИИ-ученый Ян Лекун, работающий на Facebook (чей CEO Марк Цукерберг в 2018 году отдувался перед тем же Судебным комитетом сената США за проблемы, которые ИИ его компании вызвал в американской демократии).
И, наконец, третий тип мнений, техно-реалистичный, говорит, что ИИ – настолько же полезная, насколько и опасная технология. Она опасна в первую очередь из-за того, что ей пользуются люди – самые опасные твари на Земле. Ключевые спикеры в этой группе – самые пожилые, вроде сенатора Блументаля, Джорджа Сороса и Генри Киссинджера.
Но и оптимисты, и реалисты, и пессимисты сходятся на том, что нам срочно нужно решить две глобальных ИИ-проблемы:
- усиление дезинформации (или автоматизация лжи)
- и выхолащивание среднего класса из-за массовых сокращений рабочих мест на фоне роботизации всего.
Все эти проблемы лежат не столько в плоскости технологий, экономики и политики, сколько в плоскости человеческой психологии: почему к моменту глобального триумфа науки, которым является изобретение продвинутого ИИ, люди пришли с такими архаичными желаниями и устремлениями?
Золотая ИИ-рыбка
Человечество веками придумывало некие волшебные сущности, способные творить чудеса по повелению человека. Одна из самых известных версий этого сюжета – сказка о золотой рыбке, которую я здесь перескажу в варианте, популярном на Буковине, снабдив ее комментариями, объясняющими, почему это на самом деле сказка про ИИ.
Дедушка словил ИИ-рыбку, а она и говорит: “Що схочеш, то будеш мати. Лиш прийди і скажи: “Рибко да рибко!” Я прийду і дам тобі, що ти хочеш” – это ли не ChatGPT, подключенный к голосовым интерфейсам типа Siri, вызываемый словам вроде «ok google»?
Дедушка просит, чтобы они с бабушкой жили и все что надо имели – ровно это обещают сегодняшние ИИ-оптимисты: безусловный базовый доход, победа над голодом, исчезновение бездомных, все благодаря ИИ. Приходит дедушка домой, а там «уже все є їсти й пити».
Потом дедушка просит «будинок добрий» (умный дом в нашей терминологии), и получает его. Просит карету (автономные автомобили Маска) и чтобы люди кланялись (позитивный социальный рейтинг) – и получает, что просил.
В конце концов дедушка требует у рыбки, чтобы он стал царем, а его баба – царицей. Когда дедушка возвращается домой, он видит, что все стало как до встречи с рыбкой: дом на курьих ножках и баба у разбитого корыта.
Проблема в этой сказке, как и в многих подобных, заключается не в рыбке, готовой выполнить желания дедушки, а в человеческой природе дедушки и бабушки. Во-первых, людям всегда мало благ, даже если их резко становится многократно больше, чем было. Во-вторых, люди не понимают, чего они на самом деле хотят, поэтому часто получают совершенно противоположные их желаниям вещи.
Искусственный интеллект – это не одна, а целая стая сказочных золотых рыбок, способных исполнять наши самые дерзкие желания. Рыбки каждый день мутируют и учатся выполнять все более сложные желания и уже сейчас могут творить чудеса, — если люди способны придумать, о чем таких ии-рыбок попросить.
В отличие от сказки, где старик ловит волшебную рыбку совершенно случайно, ИИ-рыбок выращивает особая каста людей из технокорпораций, которые научились рыть глубокие озера (дата-центры и суперкомпьютеры) в которых размножаются ИИ-рыбки (алгоритмы и нейросети), волшебство которых их создатели сами не понимают до конца. Технокорпорации владеют самыми глубокими озерами с ии-рыбками: мы не знаем, что они спрашивают у самых больших ии-рыбок, но нам они практически бесплатно сдают в аренду рыбок с ограниченными возможностями.
Главным выводом, к которому на слушаниях пришли сенаторы и глава OpenAI Сэм Альтман, стало всеобщее согласие, что ИИ нуждается в регуляции со стороны правительств и осторожного обращения с ним со стороны его создателей. Другими словами, политики и ИИ-магнаты договорились, что управлять волшебными ИИ-озерами будут политики и миллиардеры сообща. Это их законам и правилам будут подчиняться самые мощные ии-рыбки, а доступные обычным людям ии-рыбки будут строго ограничены в своих возможностях, так как люди могут назагадывать такого, что наша цивилизация исчезнет.
Усиливающееся с каждый днем цифровое волшебство – верный инструмент для построения самой настоящей утопии, где все наши базовые потребности автоматически удовлетворяются, а мы заняты созиданием и реализацией творческого потенциала, который мы каждый день понимаем все лучше. Нужно только правильно выстроить цепочку желаний, которые мы загадываем ии-рыбкам — и цифровая утопия настанет.
Но вместо этого мы систематично загадываем рыбкам такие желания, от которых наш мир и наши общества превращаются в цифровую антиутопию семимильными шагами. Люди просят ии-рыбок о наколдовать им инструменты для слежки, орудия уничтожения и разрушения, машины для максимизации прибыли и массовой автоматизации лжи. Есть и другие, более конструктивные желания, в основном перечисленные Альтманом в письменных показаниях: ии-рыбок просят сделать людей здоровее, обеспечить им если не бессмертие, то долголетие и продленную молодость, научить их учиться и учить их детей, побороть голод и климатические кризисы.
Но так же как в математике умножение минуса на плюс дает минус, так и в нашей цивилизации, негативные тенденции в обращении с ИИ окрашивают весь позитив в мрачные тона. Например, если в основе ИИ-зации человечества будут лежать неверные предпосылки, то ИИ-репетиторы будут воспитывать детей цифровыми фашистами, накормленными и с отменным здоровьем, но заточенными на то, чтобы уничтожать таких же цифровых фашистов из соседних стран.
Задумайтесь на секунду, что именно Евгений Пригожин, которого мы сейчас знаем как массового убийцу и владельца ЧВК Вагнер, одним из первых проэксплуатировал возможности ИИ соцсетей для того, чтобы вмешаться в выборы президента США в 2016 году. Его фабрика троллей и дезинформационное агентство, конечно, было не настолько технологичным, как британская Cambridge Analytica, однако пригожинские боты и тролли помогли Трампу стать президентом, и именно о них думают американские сенаторы, допрашивавшие Сэма Альтмана на этой неделе и требовавшие заверить их, что новый ИИ в руках пригожиных не разрушит демократию и не сорвет выборы президента США 2024.
Пригожинские тролли работали не только на диверсии при выборах в других странах – они точно так же обрабатывали российское население и способствовали созданию идеологии рашизма. Ожесточение россиян, поддержка Путина и войны – в очень значительной степени результат алгоритмической ИИ-власти в дурных руках, если учесть, что десятки миллионов россиян больше 15 лет обрабатывались не только телевизионной пропагандой, но и политически заряженным ИИ социальных сетей Вконтакте и Одноклассники, а также поисковика Yandex. Путинский режим с помощью ИИ предыдущего поколения (поисковиков, соцсетей и ботов) сумел создать общество, в котором черное называют белым и которое поддерживает массовые убийства и репрессии, которому весь мир кажется злым, а оно само – праведным, несмотря на все убийства и насилие.
Как так получается, что воля и цели есть у, мягко говоря, негативно настроенных людей, а все остальные в лучшем случае пытаются остановить злодеев, но не предлагают ничего настолько же эффективного, как у этих злодеев?
Очевидно, что ко встрече с золотыми ии-рыбками готовы далеко не все: большинство стоит на берегу и чешет репу на тему “чего же эдакого загадать?” Если вы подумаете, то проблема безработицы, которую вызовет ИИ, это едва не в первую очередь проблема желаний человека: если нейросети заменят людей во всей их рутинной и неинтересной работе, то это развяжет им руки и позволит стать тем, кем они хотят. Но чего они хотят?
А вот небольшая кучка авантюристов, психопатов и мошенников, большая часть из которых наделены властью и деньгами, сразу же пускают волшебство в ход – и это приводит к плачевным последствиям.
Я считаю, что главный квест нашего времени – придумать для ии-рыбок как можно больше конструктивных и по-хорошему волшебных заданий. Как минимум для того, чтобы уравновесить минусы от того, что ии-рыбки уже слушают параноиков и выполняют их деструктивные желания.