У вас может быть синяя таблетка или красная таблетка. Но синие-то все равно уже закончились.

Г-н Харари является историком; автор «Sapiens», «Homo Deus» и «Unstoppable Us»; и основатель компании социального воздействия Sapienship. Г-н Харрис и г-н Раскин являются основателями Центра гуманных технологий.

Представьте, что, когда вы садитесь в самолет, половина инженеров, которые построили самолет, говорят вам, что есть 10-процентная вероятность того, что самолет потерпит крушение, убив вас и всех остальных на борту. Вы бы все еще садились на борт?

В 2022 году более 700 ведущих ученых и исследователей, стоящих за ведущими компаниями по искусственному интеллекту, были опрошены в опросе о будущем риске ИИ. Половина опрошенных заявили, что существует 10-процентная или более вероятность вымирания человека (или аналогичного постоянного и серьезного лишения прав) от будущих систем ИИ. Технологические компании, создающие сегодняшние большие языковые модели, попали в гонку, чтобы поставить все человечество на этот план.

Фармацевтические компании не могут продавать людям новые лекарства, не подвергая сначала свою продукцию строгим проверкам безопасности. Биотехнологические лаборатории не могут выпускать новые вирусы в публичную сферу, чтобы произвести впечатление на акционеров своим волшебством. Точно так же системы искусственного интеллекта с мощью GPT-4 и за его пределами не должны быть запутаны с жизнью миллиардов людей быстрее, чем культуры могут безопасно поглотить их. Гонка за доминирование на рынке не должна определять скорость развертывания самых важных технологий человечества. Мы должны двигаться с любой скоростью, которая позволяет нам сделать это правильно.

Призрак ИИ преследовал человечество с середины 20-го века, но до недавнего времени он оставался далекой перспективой, что-то, что относится к научной фантастике больше, чем к серьезным научным и политическим дебатам. Нашему человеческому разуму трудно понять новые возможности GPT-4 и подобных инструментов, и еще труднее понять экспоненциальную скорость, с которой эти инструменты развивают еще более продвинутые и мощные возможности. Но большинство ключевых навыков сводятся к одному: способность манипулировать и генерировать язык, будь то слова, звуки или изображения.

В начале было слово. Язык является операционной системой человеческой культуры. Из языка возникают мифы и законы, боги и деньги, искусство и наука, дружба и нации — даже компьютерный код. Новое овладение языком ИИ означает, что теперь он может взламывать и манипулировать операционной системой цивилизации. Овладев языком, ИИ захватывает главный ключ к цивилизации, от банковских хранилищ до гроба господня.

Что бы значило для людей жить в мире, где большой процент историй, мелодий, образов, законов, политики и инструментов формируется нечеловеческим интеллектом, который знает, как со сверхчеловеческой эффективностью использовать слабости, предубеждения и зависимости человеческого разума, а также знает, как формировать интимные отношения с людьми? В таких играх, как шахматы, ни один человек не может надеяться победить компьютер. Что происходит, когда то же самое происходит в искусстве, политике и даже религии?

ИИ мог бы быстро съесть всю человеческую культуру — все, что мы произвели за тысячи лет — переварить ее и начать изливать поток новых культурных артефактов. Не только школьные сочинения, но и политические речи, идеологические манифесты и даже священные книги для новых культов. К 2028 году президентская гонка в США может больше не управляться людьми.

Люди часто не имеют прямого доступа к реальности. Мы окружены культурой, переживая реальность через культурную призму. Наши политические взгляды формируются репортажами журналистов и анекдотами друзей. Наши сексуальные предпочтения изменены искусством и религией. Этот культурный кокон до сих пор был соткан другими людьми. Каково будет воспринимать реальность через призму, созданную нечеловеческим разумом?

В течение тысяч лет мы, люди, жили внутри снов других людей. Мы поклонялись богам, преследовали идеалы красоты и посвящали свою жизнь делам, которые возникли в воображении какого-нибудь пророка, поэта или политика. Скоро мы также окажемся живущими внутри галлюцинаций нечеловеческого интеллекта.

Франшиза «Терминатор» изображала роботов, бегающих по улицам и стреляющих в людей. «Матрица» предполагала, что для получения полного контроля над человеческим обществом ИИ должен сначала получить физический контроль над нашим мозгом и подключить наш мозг непосредственно к компьютерной сети. На самом деле, однако, просто овладев языком, ИИ будет иметь все, что ему нужно, чтобы содержать нас в мире иллюзий, подобном Матрице, не стреляя ни в кого и не имплантируя какие-либо чипы в наш мозг. Если какая-либо стрельба необходима, ИИ может заставить людей нажать на курок, просто рассказав нам правильную историю.

Призрак ловушки в мире иллюзий преследовал человечество гораздо дольше, чем призрак ИИ. Скоро мы, наконец, столкнемся лицом к лицу с демоном Декарта, с пещерой Платона, с буддийскими майя. Занавес иллюзий может опуститься над всем человечеством, и мы, возможно, никогда больше не сможем сорвать этот занавес — или даже осознать, что он есть.

Социальные медиа были первым контактом между ИИ и человечеством, и человечество потерялось. Первый контакт дал нам горький вкус грядущих событий. В социальных сетях примитивный ИИ использовался не для создания контента, а для курирования пользовательского контента. ИИ, стоящий за нашими новостными лентами, по-прежнему выбирает, какие слова, звуки и изображения достигают наших сетчаток и барабанных перепонок, основываясь на выборе тех, которые получат наибольшую вирусность, наибольшую реакцию и наибольшее вовлечение.

Несмотря на то, что ИИ был очень примитивным, лежащий в основе социальных сетей, был достаточным, чтобы создать занавес иллюзий, которые усилили социальную поляризацию,подорвали наше психическое здоровье и разрушили демократию. Миллионы людей перепутали эти иллюзии с реальностью. Соединенные Штаты обладают лучшими информационными технологиями в истории, но граждане США больше не могут договориться о том, кто выиграл выборы. Хотя все уже знают о недостатках социальных сетей, они не были решены, потому что слишком многие из наших социальных, экономических и политических институтов запутались с ними.

Большие языковые модели — это наш второй контакт с ИИ. Мы не можем позволить себе снова проиграть. Но на каком основании мы должны верить, что человечество способно привести эти новые формы ИИ в нашу пользу? Если мы продолжим вести дела как обычно, новые возможности ИИ снова будут использоваться для получения прибыли и власти, даже если это непреднамеренно разрушит основы нашего общества.

ИИ действительно может помочь нам победить рак, открыть жизненно важные лекарства и изобрести решения для наших климатических и энергетических кризисов. Есть бесчисленное множество других преимуществ, которые мы не можем себе представить. Но не имеет значения, насколько высоко небоскреб с выгодами ИИ собирается, если фундамент рухнет.

Настало время считаться с ИИ до того, как наша политика, наша экономика и наша повседневная жизнь станут зависимыми от него. Демократия — это разговор, разговор опирается на язык, и когда сам язык взломан, разговор ломается, и демократия становится несостоятельной. Если мы будем ждать хаоса, будет слишком поздно его исправлять.

Но есть вопрос, который может задержаться в наших умах: если мы не пойдем как можно быстрее, не проиграет ли Запад Китаю? Нет. Развертывание и вовлечение неконтролируемого ИИ в общество, высвобождение богоподобных сил, отделенных от ответственности, может быть той самой причиной, по которой Запад проигрывает Китаю.

Мы все еще можем выбирать, какое будущее мы хотим с ИИ. Когда богоподобные силы сочетаются с соразмерной ответственностью и контролем, мы можем осознать преимущества, которые обещает ИИ.

Мы вызвали инопланетный разум. Мы мало что знаем о нем, за исключением того, что он чрезвычайно мощный и предлагает нам ошеломляющие подарки, но также может взломать основы нашей цивилизации. Мы призываем мировых лидеров отреагировать на этот момент на том уровне вызова, который он представляет. Первый шаг - выиграть время для модернизации наших учреждений 19-го века для пост-ИИ. мира и научиться овладевать ИИ до того, как он овладеет нами.