«Крестный отец» искусственного интеллекта рассказал «60 минутам», что он опасается, что технология однажды может захватить человечество
ПУТЬ К СВОБОДЕДжеффри Хинтон приветствует преимущества искусственного интеллекта, но также бьет тревогу по поводу таких вещей, как автономные боевые роботы, фейковые новости и непреднамеренная предвзятость при приеме на работу и работе полиции.
Пн, 9 октября 2023 г., 10:37 GMT+3
«Мы вступаем в период большой неопределенности, когда мы имеем дело с вещами, которых никогда раньше не делали», — говорит Джеффри Хинтон об искусственном интеллекте. «Мы не можем позволить себе ошибиться». (ЦБС)
Джеффри Хинтон, которого называют «крестным отцом ИИ», дал интервью программе «60 минут» в воскресном эпизоде, чтобы рассказать о том, что технология искусственного интеллекта может означать для человечества в ближайшие годы, как хорошее, так и плохое.
Хинтон — британский ученый в области информатики и когнитивный психолог, наиболее известный своими работами по искусственным нейронным сетям — фреймворку для искусственного интеллекта. Он десять лет проработал в Google, прежде чем уйти в мае этого года, сославшись на опасения по поводу рисков, связанных с искусственным интеллектом.
Вот что Хинтон сказал интервьюеру программы «60 минут» Скотт Пелли.
Интеллект
После того, как Пелли выделил последние опасения по поводу искусственного интеллекта для создания сегмента, Пелли начал вопросы и ответы с Хинтоном, спросив его, знает ли человечество, что оно делает.
— Нет, — ответил Хинтон. «Я думаю, что мы вступаем в период, когда впервые в истории у нас есть вещи более умные, чем мы».
Хинтон развил эту мысль, сказав, что, по его мнению, самые продвинутые системы искусственного интеллекта могут понимать, быть интеллектуальными и принимать решения на основе собственного опыта. Отвечая на вопрос о том, обладают ли системы ИИ сознанием, Хинтон сказал, что из-за нынешнего отсутствия самосознания, вероятно, нет, но этот день наступит «вовремя». И он согласился с мнением Пелли о том, что, следовательно, люди будут вторыми по интеллекту существами на планете.
После того, как Хинтон выдвинул идею о том, что системы ИИ могут быть лучше обучаемыми, чем человеческий разум, Пелли задался вопросом, как это сделать, поскольку ИИ был разработан людьми — представление, которое Хинтон исправил.
— Нет, не был. Что мы сделали, так это разработали алгоритм обучения. Это немного похоже на разработку принципа эволюции», — сказал Хинтон. «Но когда этот алгоритм обучения затем взаимодействует с данными, он создает сложные нейронные сети, которые хорошо справляются с задачами. Но мы на самом деле не понимаем, как именно они это делают».
Добро
Хинтон сказал, что некоторые из огромных преимуществ искусственного интеллекта уже были замечены в здравоохранении, с его способностью распознавать и понимать медицинские изображения, а также разрабатывать лекарства. Это одна из главных причин, по которой Хинтон смотрит на свою работу в таком позитивном свете.
Зло
«У нас есть очень хорошее представление о том, что он делает», — сказал Хинтон о том, как системы искусственного интеллекта обучаются сами себя. «Но как только все становится по-настоящему сложным, мы на самом деле не знаем, что происходит, так же, как мы не знаем, что происходит в вашем мозгу».
Это мнение было лишь верхушкой айсберга опасений, связанных с искусственным интеллектом, и Хинтон указал на один большой потенциальный риск по мере того, как системы становятся умнее.
«Один из способов, с помощью которого эти системы могут выйти из-под контроля, заключается в написании собственного компьютерного кода для самомодификации. И это то, о чем мы должны серьезно беспокоиться", - сказал он.
Хинтон добавил, что по мере того, как ИИ получает все больше и больше информации из таких вещей, как известные художественные произведения, предвыборные медиациклы и все, что между ними, ИИ будет продолжать совершенствоваться в манипулировании людьми.
«Я думаю, что через пять лет он вполне сможет рассуждать лучше, чем мы», — сказал Хинтон.
А это означает такие риски, как автономные боевые роботы, фейковые новости и непреднамеренная предвзятость при приеме на работу и работе полиции. Не говоря уже о том, сказал Хинтон, что «есть целый класс людей, которые безработны и не очень ценятся, потому что то, что они делали раньше, теперь делают машины».
Опасность
Что еще хуже, Хинтон сказал, что на самом деле не видит пути вперед, который полностью гарантирует безопасность.
«Мы вступаем в период большой неопределенности, когда мы имеем дело с вещами, которых мы никогда раньше не делали. И, как правило, в первый раз, когда вы имеете дело с чем-то совершенно новым, вы ошибаетесь. И мы не можем позволить себе ошибиться с этими вещами».
Отвечая на вопрос Пелли, означает ли это, что ИИ может однажды захватить человечество, Хинтон ответил: «Да, это возможно. Я не говорю, что это произойдет. Если бы мы могли остановить их желание, это было бы здорово. Но неясно, сможем ли мы помешать им когда-либо захотеть это сделать».
Что же делать?
Хинтон сказал, что это может стать своего рода поворотным моментом, когда человечеству, возможно, придется столкнуться с решением о том, стоит ли развивать эти вещи дальше и как люди должны «защитить себя», если они это сделают.
«Я думаю, что мой главный посыл заключается в том, что существует огромная неопределенность в отношении того, что произойдет дальше», — сказал Хинтон. «Эти люди понимают, и потому что они понимают, нам нужно хорошенько подумать о том, что будет дальше, и мы просто не знаем».
Пелли сообщил, что Хинтон сказал, что он не жалеет о проделанной работе, учитывая потенциал ИИ во благо, но сейчас самое время провести больше экспериментов с ним, чтобы понять, ввести определенные правила и заключить всемирный договор о запрете использования военных роботов.
«60 минут» выходит в эфир по воскресеньям на CBS, проверьте местные списки.