Молох ИИ

Гонка ИИ-корпораций

Илона Маска по праву можно считать одной из ключевых фигур в разворачивающейся на наших глазах ИИ-революции. В 2011 году он стал инвестором в компании DeepMind – одной из двух ключевых ИИ-компаний, стремящихся создать AGI – машинный разум на уровне человеческого мозга. Компания была основана в 2010 году ИИ-ученым и разработчиком игр Демисом Хассабисом и запомнилась широкой публике ИИ-программой AlphaZero, которая обыграла лучшего человеческого игрока в го, как в 1997 году программа DeepBlue обыграла чемпиона мира по шахматам Гарри Каспарова, с важным нюансом – в отличие от шахматного DeepBlue, AlphaZero научилась играть в го самостоятельно с ноля. В начале 2020х компания прославилась другой ИИ-программой под названием AlfaFold, создавшей 3д-карты всех 200 миллионов белков, известных науки – задача, на решение которой у людей без ИИ ушел бы миллиард лет. Когда Маск в начале десятых давал DeepMind деньги на разработку AGI, большинство ИИ-специалистов считали, что на решение этой задачи понадобятся десятилетия, а возможно AGI не создадут никогда, хотя уже в начале 2020х все поняли, что это реально и сегодня Хассабис говорит, что мы увидим нечто похожее на AGI уже в ближайшие пару лет. 

В 2014 году DeepMind ускользнул из рук Маска и за $500 млн компанию купил Google. Как стало известно недавно, Маск до последнего и сам пытался купить DeepMind, чтобы не позволить своему бывшему другу и со-владельцу Google Ларри Пейджу создать «цифрового бога» – ИИ-суперразум превосходящий даже AGI, к которому, с точки зрения Маска, Пейдж относился недостаточно серьезно. Потерпев неудачу с DeepMind, Маск решил создать свою AGI-компанию и в 2015 году вместе с Сэмом Альтманом и Ильей Суцкевером основал ставшую уже легендарной компанию OpenAI, которой мы обязаны появлением ChatGPT. Через 3 года в 2018 Маск, якобы попытался стать CEO OpenAI, но получил отказ от Альтмана и других членов команды, после чего покинул совет директоров и прекратил спонсировать компанию. В OpenAI тогда сказали, что Маск ушел чтобы избежать конфликта интересов, ведь другая его компания, Tesla, также разрабатывала ИИ для автономных автомобилей и его присутствие в двух компаниях сразу якобы неправильно с точки зрения бизнеса. Впоследствии Маск неоднократно публично критиковал OpenAI за то, что она вступила в союз с Microsoft и превратилась в закрытую компанию целиком нацеленную на деньги, или в «максимизирующего прибыль демона из ада».

В третий раз Маск решил не допускать прошлых ошибок и в марте 2023 основал компанию X.ai, в которой он сразу же значится как директор. Он говорит что компания работает над созданием альтернативы ChatGPT под названием TruthGPT, «ИИ, максимально нацеленном на поиск правды и пытающимся понять природу Вселенной». Формулировку целей он очевидно взял из его любимой научно-фантастической книги «Автостопом по Галактике», где люди пытались познать с помощью суперкомпьютера Deep Thought природу Вселенной, но после 7 миллионов лет вычислений вместо глубоких формулировок получили в ответ число “42”.

В данный момент безусловным лидером среди ИИ-компаний остается OpenAI, буквально каждые несколько дней выкатывающая обновления и дополнения для чатбота ChatGPT, супер-популярного у пользователей, бизнесов и правительств со всего мира. Лидерство OpenAI пока неоспоримо, однако в затылок компании Альтмана дышит Google. Хотя в 2014 году у Google вышло отобрать у Маска DeepMind, компания Хассабиса сохраняла автономию и даже конкурировала с “родным” ИИ-отделением Google – GoogleBrain, а теперь две этих команды обьединяются для того чтобы не отставать от OpenAI и радикально усилить свою нейросеть Bard – аналога ChatGPT, над которым за его неуклюжесть уже 2 месяца с момента ее выхода смеется вся ИИ-комьюнити.

Вслед за OpenAI и Google вприпрыжку бежит Meta Марка Цукерберга, со своими аналогом ChatGPT под названием LLaMa, вышедшим на рынок в феврале 2023. В гонку все еще толком не вступили Amazon и Apple – мега-корпорации с громадным ИИ-потенциалом, владеющие всем необходимым для создания актуальный нейросетей: суперкомпьютерами, массивами пользовательских данных, тысячами лучших ИИ-специалистов со всего мира и десятками миллиардов долларов, готовых к вливанию в развитие ИИ.

Последние 3 года стали прорывными для развития искусственного интеллекта, а следующие 3 года обещают радикально ускорить и без того умопомрачительно быструю ИИ-революцию. Сегодня сложились все условия для создания того самого «цифрового бога», который рано или поздно появится в стенах одной из вышеперечисленных компаний. Однако у значительной части ИИ-специалистов такие скорости разворачивания цифрового божества вызывают не восторг, а ужас, потому что появление такого “нечеловеческого разума” чревато непредсказуемыми последствиями – от фантастических сценариев, где ИИ взбунтуется и превратит человечество в «серую клейкую массу», до вполне реальных угроз опустошающих ИИ-войн, которые начнут люди, и которые окажутся не менее опустошительными, чем тотальная ядерная война. Эти угрозы ясны не только академикам и журналистам, но и Маску, и Альтману, и остальным владельцам ИИ-корпораций – они понимают опасность, признают, что не знают, как устранить эту опасность, но также признают, что ИИ-будущее уже не остановить и никаких тормозов больше не будет, только газ и полный вперед. А впереди – непроницаемый занавес под названием AGI и Суперразум, и за этим занавесом нас с одинаковой вероятностью ждет рай или ад на Земле.

ИИ-Молох

Разговоры про ИИ в последние годы обретают все более мистический характер, так как исследователям и бизнесменам буквально каждые несколько часов открываются новые возможности улучшить все сферы жизни и деятельности благодаря нейросетям – у многих это вызывает почти религиозный трепет. Один из самых интересных явлений из религий прошлого, вошедших в дискуссии о технобудущем, стало появление Молоха, карфагенского божества природы и солнца, поклонение которому в древние времена сопровождалось человеческими жертвоприношениями и сожжениями детей заживо.

Отвечая на вопрос, не пугают ли его ИИ-разработки Apple, Meta и других компаний и что ИИ-гонка может привести к ужасным и непредсказуемым последствиям Сэм Альтман говорит: «Я немного боюсь капитализма и его стремления создавать и получать неограниченную прибыль. Но я думаю что никто не хочет уничтожить мир, никто не говорит «Сегодня я хочу уничтожить мир». Так что с одной стороны есть проблема Молоха, а с другой – люди, которые хорошо ее осознают и обсуждают, как минимизировать некоторые очень страшные последствия этой технологии». 

О какой проблеме Молоха, неоднократно осуждавшегося в Ветхом Завете, говорит техно-предприниматель Альтман или астрофизик, занимающийся проблемами ИИ, Макс Тегмарк? Они ссылаются на поэму «Вопль» поэта-битника Алена Гинзберга, написанную в 1955 году. В одной из частей поэмы Гинзберг описывает демонического бога Молоха, коллективного духа, вызванного на свет технологическим прогрессом и проявляющего себя в современных войнах, правительствах, поп-культуре и капитализме. 

Молох – это темная сторона «невидимой руки» рынка, ключевой идеи капитализма, описанной в 18 веке экономистом Адамом Смитом, утверждающей, что все участники рынка, преследуя личную выгоду, служат всеобщему благу, так как “невидимая рука” направляет их усилия и справедливо распределяет эти блага между людьми. Молох также основывается на желании каждого участника рынка (и шире – общества) искать личной выгоды, однако в отличии от “невидимой руки” Смита, незаметно ведущей коллективное человечество к процветанию, Молох складывает частные усилия людей и ведет их к страданиям и уничтожению. 

ИИ–Молох это все ускоряющаяся гонка технокорпораций по созданию сверхмощного ИИ – цели, обещающей создателям невероятные богатства и фантастические силы, но взамен гарантирующей уничтожение человечества. В 20 веке человечество сталкивалось с Молохом во время гонки ядерных вооружений, когда всех пугала возможность создания бомбы, способной уничтожить все живое на Земле, но из-за угрозы, что другие участники гонки опередят и создадут бомбу первыми, все только ускоряли разработки смертельного атома. 

В наше время Молох продемонстрировал свою силу в первой битве ИИ с людьми – в социальных сетях. Сложилось так, что основой монетизации социальных сетей стало как можно большее вовлечение пользователей и удержаниие их внимания. Алгоритмы соцсетей, изучавшие пользователей, пришли к выводу, что разжигание вражды, поощрение ненависти, оскорблений и злых насмешек – эффективнее всего удерживают пользователей в соцсетях, позволяя владельцам максимизировать свою прибыль. Хотел ли Марк Цукерберг или Джек Дорси, чтобы Facebook и Twitter стали рассадниками ненависти и монструозными поляризаторами общества? Нет. Хотя, будучи хакерами, они понимали, что их алгоритмы взламывают уязвимости человеческой психики, они также понимали, что рано или поздно это станет известно общественности и вызовет крайне негативную реакцию в их адрес. Тем не менее, они продолжали развивать эти манипулятивные алгоритмы, а все остальные социальные сети следовали их примеру, потому что никто не хотел лишаться конкурентного преимущества.

Отталкиваясь от успеха в социальных сетях, Молох пришел и в сферу стремительно автономизирующегося ИИ. Молох уже заставил нас сделать самые опасные вещи, которые можно сделать с ИИ и которые десятилетиями считались в среде создателей ИИ табу, нарушение которых сильно увеличивает шансы на развитие апокалиптического сценария:

– Мы научили ИИ писать код, наделив его способностью постоянно улучшать себя и перейти даже на более высокий уровень, чем AGI. Очень скоро ИИ-инженеры могут перестать понимать, что именно нейросеть делает сама с собой и чем это чревато (вспомните как AlphaZero самостоятельно научился играть в Го лучше людей)

– Мы дали ИИ доступ в интернет, возможность скачивать все что он хочет, нажимать куда угодно, общаться с людьми от своего или чужого имени. Мы выпустили джина из бутылки, хотя десятилетиями ИИ-ученые обещали себе и коллегам не выпускать ИИ за стены лабораторий (cмотрите ChaosGPT)

– Мы позволили ему изучать человеческую психологию, рассказали о когнитивных искажениях и недостатках нашего мышления, психологических слабостях, страхах и вожделениях – и научили его манипулировать людьми. Все это произошло еще на этапе социальных сетей и сейчас только усугубилось.

Дыхание ИИ-Молоха легче всего рассмотреть на примере Google. Коропрация, чей создатель, по словам Маска, на полном серьезе хочет создать ИИ-бога, когда-то роботала под девизом «Don’t be Evil». До самого недавнего времени она по праву считалась самой продвинутой ИИ-корпорацией с невероятным потенциалом для развития в этой сфере: от самой большой концентрации ИИ-талантов в мире, до доступа ко всей информации мира, собственным квантовым компьютерам и куче денег. Хотя 5 лет назад компания отказалась от девиза «Don’t be Evil», в вопросах ИИ она все же двигалась крайне осторожно, не спешила и взвешивала каждый следующий шаг, так как понимала невероятные возможности ИИ и такие же сложности с его сдерживанием. 

Однако Молох пришел и в Google: успех OpenAI за последние два года, потеря статуса ИИ-сверхкорпорации, угроза лишиться короны главного поисковика на планете и потерять большую часть прибыли, сначала вызвали в Google панику, а потом и решение сняться с предохранителя, отодвинуть безопасность на второй план и ускорить развитие ИИ на максимум – отсюда и слияние DeepMind с Google Brain, о котором я писал вначале. От «Don’t be Evil» Google перешел к формуле «Move Fast and Break Things», которую на ранних этапах существования Facebook Молох нашептал Марку Цукербергу.

Молох заставил американские ИИ-корпорации отбросить вопросы безопасности, чтобы не уступить прибыль и власть друг другу, в головах инженеров и предпринимателей заиграла мысль «Если этого не сделаем мы, то это сделают они, поэтому это сделаем мы». Американское правительство не пытается остановить свои ИИ-корпорации, так как Молох шепчет – «Если не мы, американцы, значит это сделают китайцы, а значит это должны сделать мы, американцы», и зеркальную версию Молох шепчет на ухо китайцам. 

Выход в пустоту

Если убрать в сторону мистический флер, которым стремительно обрастает дискуссия вокруг ИИ, то получиться, что Молох – это хорошо известная в политической философии, экономике, психологии и теории игр проблема коллективного действия, иначе называемая социальной дилеммой. Социальная дилемма описывает ситуацию, в которой все стороны коллективного процесса выиграли бы, если бы действовали сообща, однако не могут сделать этого из-за зацикленности на личных интересах. 

История с инвестициями Илона Маска в DeepMind и OpenAI, и последовавший за этим конфликт с руководителями этих компаний, бывшими друзьями, коллегами и учениками, наглядно демонстрирует социальную дилемму. Маск лучше других понимает, насколько серьезная угроза приходит в мир вместе с продвинутым ИИ и даже иногда пытается призвать всех к взаимодействию и более аккуратному продвижению к общей цели безопасного ИИ – например, он стал флагманом коллективного письма с призывом заморозить разработки передового ИИ на полгода, чтобы за это время разработать адекватные правила безопасности. И хотя другие игроки вроде OpenAI и Google понимают, что он во многом прав, его обвиняют в том, что паузу он хочет взять просто чтобы его свежеиспеченный ИИ-стартап X.AI мог догнать конкурентов. Все понимают, что вместе можно сделать лучше, но Молох шепчет, что победитель заберет все, поэтому сотрудничать нельзя, нужно бежать вперед, даже если бегущим кажется, что впереди – пропасть.

«Moloch whose mind is pure machinery! Moloch whose blood is running money! Moloch whose fingers are ten armies! Moloch whose breast is a cannibal dynamo! Moloch whose ear is a smoking tomb!

Moloch whose eyes are a thousand blind windows! Moloch whose skyscrapers stand in the long streets like endless Jehovahs! Moloch whose factories dream and croak in the fog! Moloch whose smoke-stacks and antennae crown the cities!

Moloch whose love is endless oil and stone! Moloch whose soul is electricity and banks! Moloch whose poverty is the specter of genius! Moloch whose fate is a cloud of sexless hydrogen! Moloch whose name is the Mind!»
Аллен Гинзберг