"МЫ НАПУГАНЫ"—ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ОКАЗЫВАЕТ СЛИШКОМ БОЛЬШОЕ ВЛИЯНИЕ В МИРЕ

Ученый, написавший ведущий учебник по искусственному интеллекту, сказал, что эксперты “напуганы” собственными успехами в этой области, сравнивая прогресс Иcкусственного интеллекта с разработкой атомной бомбы.

Профессор Стюарт Рассел, основатель Центра искусственного интеллекта, совместимого с человеком, при Калифорнийском университете в Беркли, сказал, что большинство экспертов считают, что в этом столетии будут разработаны машины, более разумные, чем люди, и он призвал к международным договорам, регулирующим развитие технологии.

“Сообщество ИИ еще не приспособилось к тому факту, что сейчас мы начинаем оказывать действительно большое влияние в реальном мире”, - сказал он. “Это просто не имело места на протяжении большей части истории этой области – мы просто были в лаборатории, разрабатывали вещи, пытались заставить их работать, но в основном не могли заставить их работать. Так что вопрос о реальном воздействии был просто неуместен вообще. И мы должны очень быстро повзрослеть, чтобы наверстать упущенное”.

Искусственный интеллект лежит в основе многих аспектов современной жизни, от поисковых систем до банковского дела, а достижения в области распознавания изображений и машинного перевода являются одними из ключевых достижений последних лет.

Рассел в 1995 году стал соавтором основополагающей книги “Искусственный интеллект: современный подход” и который в этом году будет читать лекции на Би–би-си под названием "Жизнь с искусственным интеллектом".

“ИИ был разработан с использованием одной конкретной методологии и своего рода общего подхода. И мы недостаточно осторожны, чтобы использовать такую систему в сложных реальных условиях”, - сказал он.

Например, просить ИИ вылечить рак как можно быстрее может быть опасно. “Он, вероятно, нашел бы способы вызывать опухоли у всей человеческой популяции, чтобы параллельно проводить миллионы экспериментов, используя всех нас в качестве подопытных кроликов”, - сказал Рассел. “И это потому, что это решение поставленной нами задачи; мы просто забыли уточнить, что вы не можете использовать людей в качестве подопытных кроликов, и вы не можете использовать весь мировой ВВП для проведения своих экспериментов, и вы не можете делать это, и вы не можете делать то”.

Рассел сказал, что все еще существует большой разрыв между современным искусственным интеллектом и тем, что изображено в таких фильмах, как Ex Machina, но будущее с машинами, которые более умны, чем люди, было в этих фильмах.

Основные проблемы

“Я думаю, что цифры варьируются от 10 лет для самых оптимистичных до нескольких сотен лет”, — сказал Рассел. “Но почти все исследователи ИИ сказали бы, что это произойдет в этом столетии”.

Одна из проблем заключается в том, что машине не нужно быть более умной, чем люди, во всех отношениях, чтобы представлять серьезный риск. “Это то, что разворачивается сейчас”, - сказал он. “Если вы посмотрите на социальные сети и алгоритмы, которые выбирают то, что люди читают и смотрят, они в огромной степени контролируют наш когнитивный вклад”.

В результате, по его словам, алгоритмы манипулируют пользователями, промывая им мозги, чтобы их поведение становилось более предсказуемым, когда дело доходит до того, чем они решили заниматься, повышая доход от кликов.

Испугались ли исследователи ИИ собственного успеха? “Да, я думаю, что мы все больше пугаемся", - сказал Рассел.

“Это немного напоминает мне о том, что произошло в физике, когда физики знали, что существует атомная энергия, они могли измерять массы разных атомов и могли вычислить, сколько энергии может высвободиться, если вы сможете выполнить преобразование между различными типами атомов”, - сказал он, отметив, что эксперты всегда подчеркивали, что идея была теоретической. “А потом это случилось, и они не были готовы к этому”.

По его словам, использование ИИ в военных целях, таких как стрелковое противопехотное оружие, вызывает особую озабоченность.

Что же тогда сделать?

Рассел считает, что будущее ИИ заключается в разработке машин, которые знают, что истинная цель неопределенна, как и наши предпочтения, а это означает, что они должны согласовывать с людьми – скорее как дворецкий – любое решение. Но идея сложна, не в последнюю очередь потому, что у разных людей разные – и иногда противоречивые – предпочтения, и эти предпочтения не являются фиксированными.

Рассел призвал к принятию мер, включая кодекс поведения для исследователей, законодательство и договоры для обеспечения безопасности используемых систем искусственного интеллекта, а также подготовку исследователей для обеспечения того, чтобы ИИ не был подвержен таким проблемам, как расовые предубеждения. Он сказал, что законодательство ЕС, запрещающее выдавать себя за людей с помощью машин, должно быть принято во всем мире.

Рассел сказал, что надеется, что лекции подчеркнут, что есть выбор в отношении того, что ждет нас в будущем. “Для общественности действительно важно участвовать в этом выборе, потому что именно общественность выиграет или нет”, - сказал он.

Но было и другое сообщение. “Прогресс в области искусственного интеллекта - это то, что займет некоторое время, но это не делает его научной фантастикой”, - сказал он.