Elon Musk vs. OpenAI, или самый важный суд в истории человечества

Последний день високосной зимы 2024 года порадовал нас (d/acc) беспрецедентным иском Илона Маска к OpenAI и двум основным его главам - Сэму Альтману и Грегу Брокману.

К сожалению, практически все обзоры этого иска страдают теми же пороками, что и все новости о Маске - у каждого есть своё сильное мнение (так говорят по-русски или это неправильная калька от strang opinion?) и подача материала строится вокруг этого мнения.

У меня тоже есть своё мнение о Маске, и я его не скрываю - я считаю, что он один из очень редких адекватных людей на планете и пока что не видел ни в его действиях, ни в его словах ничего, с чем бы был серьёзно несогласен.

Но, как мы знаем, opinions are like assholes - everybody's got one, поэтому своё я тоже засуну туда, где ему самое место в юридическом обзоре, и постараюсь быть объективным, но свои biases я дожен изложить в начале статьи, ибо хоть я и первый не-профессор Гамбарян в 4-5 поколениях, генетика штука страшная.

А так как речь идёт об очень важном иске, и заголовок этого эссе - не кликбейт, я превращусь в юриста и далее буду писать по пунктам, чтобы вам было легче меня опровергать.

Над иском работали очень хорошие юристы, и читать его одно удовольствие, поэтому я не буду пытаться превзойти людей круче меня и буду рассказывать об иске в том же порядке, в котором он написан.

Кстати, это не просто иск, а motion for jury trial - просьба (заявка? требование? чортов юр.руский) на рассмотрение судом присяжных. Постараюсь объяснить всё настолько доступно, чтобы понял пятиклассник и даже не-гуманитарий.

1. Краткое описание

В 2015 Илон Маск собрал команду, цель которой была не допустить концентрации искусственного интеллекта в руках одной фирмы - Google.

Для того, чтобы предотвратить опасности, исходящие от ИИ, Маск создал организацию OpenAI, главные особенности которой - это работа на пользу человечества, независимость, non-profit и open source, то есть прозрачная некоммерческая контора, которая делает ИИ с открытым исходным кодом.

Со временем, стараниями ответчиков Альтмана и Брокмана, OpenAI превратилась в непрозрачную коммерческую организацию, которая создаёт ИИ с закрытым исходным кодом, зависимую от Microsoft и фактически работающую на него - то есть полная противоположность тому, что создал Маск и куда вложил (а точнее - пожертвовал, это важно) 44 миллиона долларов.

В соответствии с уставными документами OpenAI и их соглашинием с Microsoft, все лицензии на использование их технологий обнуляются, как только ИИ доходит до уровня "сильного ИИ", или Artificial General Intelligence, AGI.

Маск предполагает, что GPT-4 уже близок к AGI, а грядущие разработки это уже настоящий AGI, поэтому все лицензии должны быть отозваны у Microsoft. Как минимум Маск требует отчётности и прозрачности - тех самых основных вещей, для которых и был создан OpenAI.

2. Опасности искусственного интеллекта

Иск начинается с описания опасностей, которые искусственный интеллект представляет для человечества.

Интересно, что кроме Стивена Хокинга упомянут и процитирован Bill Joy, основатель Sun Microsystems, который в своей статье 2000 года "Why The Future Doesn't Need Us" цитирует самого Унабомбера (не случайны в моём шутошном тг-канале, куда я скидываю смешные мемасики, ни его название "22 слова", ни картинка).

Об опасностях ИИ писали сперава фантасты (лучше всего, я считаю, получилось у Шекли, а не у Азимова - особенно в рассказе, где они сделали супер-юморной ИИ, который решил уничтожить человечество, потому что это было бы очень иронично, ну и конечно же Страж-птица, которая описывает парадокс сайберсекьюрити).

Позже об опасностях ИИ стали говорить те самые люди, которые его создали - от Тюринга и Винера с фон Нейманом, до Мински с Маккарти, и до Хинтона с Бенжио.

Если вы незнакомы с этими именами, у вас есть прекрасная возможность погулять по rabbit holes википедии, а если вы любите слушать лекции на английском - послушайте последнюю лекцию Хинтона. То, что каждым мыслящий человек должен услушать всего Минского, который есть в ютюбе, я и не говорю.

Вот основные опасности сильного ИИ:

а) замещение профессий и как следствие тотальная безработица

б) создание неотличимых от реальности фото, аудио и видео и как следствие невозможность отличить правду от лжи

в) облегчение создания биологического оружия и как следствие возможность его создания террористами и прочими bad actors (следите за веганами, они самые опасные)

г) кибербезопасность, использование ИИ преступными группировками - от создания военного ИИ, который отключит противнику все критические инфраструктуры (и потом пойдёт дальше отключать весь мир), до потери контроля над ИИ, который будет противостоять этому. Это, кстати, сценарий на мой взгляд неизбежный, поэтому прямо сейчас тем, кто хочет выжить, надо мотать в Новую Зеландию - но это совсем другая история.

д) потеря контроля над управлением судьбой человечества - на ютюбе доктора компутерных наук на серьёзных щщах говорят о том, что раз ИИ будет умнее человека, то пусть он за нас и решает что и как.

e) мы точно не знаем как, но ИИ нас перегонит и съест, ибо это эволюционная неизбежность - см. книгу Александра Маркова "Рождение Сложности", а также учебник биологии страших классов.

3. История создания OpenAI

В 2012 году Илон Маск начал всерьёз задумываться об опасности уничтожения искусственным интеллектом человеческой цивилизации (в лучшем случае) или всей человеческой или даже биологической жизни на Земле (в худшем случае).

Одна из опасностей по дороге к этому была в том, что Google прикупил себе DeepMind и таким образом все самые крутые учёные по ИИ оказались в одной мега-корпорации, у которой к тому же неограниченные деньги, компьют и влияние.

Концентрация таких сил в одних руках сильно повышает шансы на катастрофу, и Маск решил, что надо создать противовес - антикоммерческий центр исследований ИИ, с фокусам на безопасность человечества.

Весёлый момент из иска - цитата попавших в печать слов одного инвестора после встречи с Хассабисом, основателем DeepMind, что самое лучшее, что он бы мог сделать для человечества - это пристрелить Хассабиса прямо там на встрече, и это было в 2012 году.

Партнёром Маска по созданию OpenAI стал Сэм Альтман, но вся эта контора не могла бы работать без ещё одного умного еврея, и Маск выманил из гугля Илью Суцкевера, известного там, что сделал с Хинтоном AlexNet (кстати, где сам Алекс Крижевский? как может учёный такого уровня пропасть с радаров? в NSA работает?).

На фотографии, иллюстрирующей это эссе, глава NVIDIA Дженсен Хуанг дарит первый в мире суперкомпьютер DGX-1 "Илону Маску и команде ОpenAI", именно эту дарственную надпись он оставил на корпусе этого чуда техники. Именно так и выглядело становление OpenAI - Маск и его команда людей, которые спасают человечество от опасностей ИИ.

4. Что произошло потом?

После создания нон-профита Маск пожертвовал туда 44 миллиона долларов и, что гораздо дороже и ценнее, кучу своего времени.

Вообще мне нравятся слова Маска о том, что единственная реальная валюта, которая у нас имеется - это время. Вспомните об этом, когда будете переживать из-за денег - деньги придут и уйдут, а время только уходит, и безумно жаль тратить его на мысли о любой другой валюте - лучше подумайте о судьбе человечества, а если не хотите так глобально - как смотать в Новую Зеландию, чтобы спасти своих детей от неминуемой надвигающейся на нас катастрофы.

Чорт, я ж обещал что буду юристом, а не как обычно мысями по древу (здесь была бы шутка про squirrel institute) - но ничего не поделаешь, где-то я прочитал фразу "у юристов всё всегда кстати", так что терпите.

Постепенно OpenAI стал уходить от принципов, на которых был основан, и началось это с романа с Microsoft, который для начала вложил (инвестировал!) миллиард долларов.

Коммерческие инвестиции в нон-профит стали началом конца собственно нон-профита.

Открытый и прозрачный по задумке создателей OpenAI морфировал в доселе невиданную структуру, которую я даже описывать не буду, просто посмотрите ответчиков по иску, вот они:

• OPENAI, INC.; OPENAI, L.P.; OPENAI, L.L.C.; OPENAI GP, L.L.C.; OPENAI OPCO, LLC; OPENAI GLOBAL, LLC; OAI CORPORATION, LLC; OPENAI HOLDINGS, LLC.

А потом Microsoft дали OpenAI 10 миллиардов долларов, технологии стали коммерческими и закрытыми - отсюда, собственно, и иск.

5. Юридические основания

а) Нарушение контракта (Breach of Contract)

Договорились о создании открытого прозрачного опенсорсного нон-профита, а получили ровно наоборот

б) Нарушение условий обещания (Promissory Estoppel)

Обещали Маску строить для человечества, а сами построили коммерческую контору

в) Нарушение доверенных обязательств (Breach of Fiduciary Duty)

Брали у Маска деньги, неиллюзорные миллионы баксов под обещание сделать хорошо для человечества, а развели коммерцию

г) Несправедливые коммерческие практики (Unfair Business Practices)

Маск жертвовал свои деньги на благотворительность, а из этого выросла коммерция. Отличный патент - начинаешь бизнес как благотворительный нон-профит, набираешь под это дело лучшие умы человечества и миллионы долларов, а потом бац - и в дамки с миллиардами, блэк джеком и микрософтами.

д) Отчётность (Accounting)

Маск хочет узнать, как и на что потратили его деньги, которые он им пожертвовал на создание некоммерческого открытого ИИ

Почему этот иск настолько важен для человечества?

Во-первых, это один из немногих исков, в основе которого лежит просьба к суду защитить человечество от гибели. Несколько лет назад в США был прецедент -

Juliana v. United States, когда куча школоты решила засудить правительства США за то, что оно слишком мало делает для защиты от глобального потепления

О, до чего же хорошо писать! Я-то думал, что их окончательно спустили с судебной лестницы ещё в 2021 года - ан нет, им снова дали исправить иск и суд продолжит слушать этот иск. Not until the fat lady sings, как говорится.

Ещё в первый раз, когда климатическую школоту погнали из суда, оставшаяся в меньшинстве судья написала "если корабль полным ходом идёт на айсберг, а капитан забил на это с приборами, суд не должен оставаться в стороне" - и вот недавно суд в Held v. Montana вынес решение о том, что право на прекрасную и чистую планету является конституционным правом граждан США, ждём окончательного решения.

Во-вторых, этот иск установит правила игры и главные понятия.

Для того, чтобы решить, отзывать ли лицензии у Microsoft или нет в связи с достижением AGI, суд должен установить, что же это такое? Так как никто до сих пор не смог создать определение AGI, с которым бы все вокруг согласились, суд будет вынужден создать прецедентное определение AGI.

В-третьих - и это самое важное - Маск хакнул юридическую сингулярность.

Юридическая сингулярность - это когда скорость роста технологий становится такой, что юридическая система не способна за ней угнаться и любые законы и регуляции, когда они выйдут после многочисленных обсуждений, комитетов и подкомиссий, будут уже неактуальными.

Более того, в своих грядущих регуляциях бюрократы уже будут иметь заложенный судом framework, что значительно ускоряет процесс создания регуляции и её имплементации.

Пара слов в защиту OpenAI, как бы я её вёл - "у нас не было выбора, нас заставили".

Когда ближе к 2020 году начался стремительный рост вычислительных мощностей, необходимых для тренировки нейросетей, OpenAI не смог бы выполнить свою миссию, не сакентовавшись с Microsoft - банально не было бы компьютеров и данных, необходимых для того, чтобы весь этот проект остался релевантным.

А когда обнаружилось, насколько крут GPT-4, ребята из OpenAI закрыли код (и веса, и датасеты, вообще всё) - ибо, как сказал Хинтон о ЛеКуне "он за опенсорс ИИ, непонятно тогда почему он не хочет опенсорснуть ядерное оружие".

Это было сделано с той самой целью, с которой основали всю эту контору - защитить человечество, и закрытость их моделей она не ради коммерции, а ради нас с вами.

Спасибо тем, кто осилил этот труд, надеюсь теперь стали понятнее и суть иска, и аргументы сторон, и - что самое главное - важность этого иска и переезда в Новую Зеландию.

И напоследок - (Epstein didn't kill himself) куда пропал Илья?

P.S. вот же ж дебил, забыл про trial by jury

Во-первый, это усиливает непредсказуемость результатов процесса, а во-вторых я гораздо больше доверяю решению 12 рандомных людей, чем любому правительству.

Тред с другими историями израильского юриста Александра Гамбаряна: https://twitter.com/gambarian/status/1384736183935279106