Илон Маск требует запретить искусственный интеллект

Самый богатый человек мира Илон Маск подписал открытое письмо, с требованиям ввести мораторий на исследования в сфере искусственного интеллекта. Аргументация такая: эта технология очень мощная и может быть опасна для людей. А следовательно надо запретить всем кому попало заниматься разработкой интеллектуальных систем. Как пишут в СМИ:

доверять разработку ИИ «неизбранным лидерам технологий» нельзя, их нужно создавать с уверенностью, что технология даст «положительный эффект», а «риски будут управляемы»

Можно было бы подумать, что это какой-то сарказм: предлагается оставить ИИ только для избранных, типа Илона Маска, а всем остальным запретить — неча кому попало нос совать! Но сегодня Маск еще и «смешую картинку» у себя в Твиттере разместил. На картинке нарисована классическая проблема вагонетки: несколько человек привязаны к рельсам и на них едет поезд. Рядом стоит человек, у которого в руках рычаг. Если он повернет рычаг, то поезд свернет на другой путь и люди останутся живы.

В классической «проблеме вагонетки» на другом пути тоже привязан человек. Поэтому возникает трудная этическая дилемма: повернуть рычаг и убить этого человека, но спасти тем самым несколько людей — или просто не делать ничего? Многие люди выбирают ничего не делать: ведь не им судить, кому жить, а кому погибнуть.

А вот на картинке Илона Маска на втором пути — не привязано вообще никого! Однако поворачивать рычаг человек с картинки не торопится, аргументируя это тем, что это «затормозит прогресс поезда»

Впрочем, Илон Маск не первый раз размещает в своем Твиттере странные картинки. Несколько лет назад он опубликовал мем с надписью: «Вещи, которые должен знать каждый ребенок: 1. ... 2. ... 3. Коммунизм проваливался всякий раз, когда его пытались создать»

Между тем, исследования в области искусственного интеллекта потенциально могут спасти жизни многих и многих людей. Например, еще в 2014 году компания IBM разработала суперкомпьютер IBM Watson. Эта система за несколько недель смогла прочитать тысячи научных статей, после чего, обработав полученную информацию, подсказала ученым шесть новых белков, которые подавляют развитие многих форм рака, и могут быть использованы для создания лекарств.

А какие примеры предлагают нам противники ИИ? Недавно в СМИ прокатился скандал: человек с депрессией пообщался с каким-то чат-ботом в онлайне, который посоветовал тому убить себя об стену. Что мужчина и сделал.

Оставляя в стороне конспирологию о том, что вся эта история могла быть просто выдумана с целью того, чтобы под этот шумок наложить запрет на ИИ, очевидно, что ни одному нормальному человеку не придет в голову в точности следовать указаниям какого-то чат-бота в Интернете, даже если он оснащен ИИ. А человек с психическим заболеванием и без всякого ИИ это сделает — по какой-нибудь другой причине.

Вот сколько людей каждый год гибнет в ДТП? И не психически больных, а вполне нормальных и здоровых? А авиакатастрофы? Но никому же не приходит в голову по этой причине запретить самолеты и машины или «затормозить их разработку» доверив монополию на это дело — компании Форд.

Как специалист, я еще в 2009 году экспериментировала с нейронными сетями в своем дипломном проекте. Мое мнение таково: абсолютно никакой серьезной опасности для человека эти технологии представлять не могут.

А вот является ли специалистом по искусственному интеллекту Илон Маск? Да, он один из основателей компании OpenAI, которая разработала на сегодняшний день самый мощный чатбот, который всем известен как ChatGPT. Но вполне может быть, что Маск является просто владельцем, который вложил в разработку деньги — и сам активного участия не принимает и не понимает вообще, как это работает. Его представления об ИИ — на уровне человека, который что-то где-то слышал. Но по сути он эту технологию не понимает — и боится её.

С другой стороны, вполне очевиден и корыстный мотив. Маск хочет, чтобы вся власть над ИИ оказалась у него в руках. Конкуренты не нужны. И это может быть мотив даже не столько личный, сколько патриотический. Ведь все крупные технологические гиганты сейчас находятся в США. Такие компании, как Гугл, Фейсбук и другие давно ведут разработки в области искусственного интеллекта. Зачем им конкуренты?

Кстати, интересный факт: в России еще со времен Советского Союза функционирует система управления ядерным оружием «Мёртвая рука» основанная на искусственном интеллекте:

«Его особенность в том, что если в результате нападения Россия лишится политического руководства, то в дело вступит искусственный интеллект. Он самостоятельно примет решение о нанесении ответного ядерного удара» — описывает работу «Периметра» автор.

Если это правда, то технологии ИИ действительно могут представлять опасность для человечества. Только вот непонятно: как этому поможет запрет Илона Маска. Вряд ли в Министерстве Обороны России его послушают.

А вот обычным людям, и учёным идея Маска нагадить вполне может. И убить многие сотни тысяч пациентов, которые так и не вылечились от рака.

О системе IBM Watson: vk.com/wall-36928352_615
Твит Илона Маска: twitter.com/elonmusk/status/1643391764064256000
Открытое письмо: daily.afisha.ru/news/74434-ilon-mask-i-esche-bolee-1000-chelovek-podpisali-otkrytoe-pismo-s-prizyvom-priostanovit-razrabotku-ii/
Про разработку лекарств с помощью ИИ: www.nytimes.com/2019/02/05/technology/artificial-intelligence-drug-research-deepmind.html

PS. Кстати, Илон Маск является владельцем компании Твиттер, в которой раньше у проекта Sci-Hub был аккаунт. Но 6 января 2021 года, после того как в Индии восстали ученые, против платной науки, аккаунт быстренько забанили. А 7 января 2021 был забанен Трамп. Купив Твиттер, Маск разбанил аккаунт Трампа. А вот Sci-Hub не торопится. Хотя как человек, имеющий отношение к наукоемких технологиям и космическим разработками, должен был бы о проекте знать или хотя бы слышать.