ИИ не в порядке...

В 2011 году во время интервью у Эрика Шмидта, когда он был генеральным директором Google, спросили о технологии, которая стала способной шпионить за всеми нашими движениями, мнениями, отношениями и вкусами и монетизировать их.

"Друг или враг?", - спросили его.

«Мы утверждаем, что мы друзья», - холодно ответил Шмидт.

Теперь, когда у бывшего руководителя Google вышла во вторник книга « Эпоха искусственного интеллекта », написанная с Генри Киссинджером и Дэниелом Хаттенлохером, я хотел задать ему тот же вопрос об искусственном интеллекте: «Друг или враг?»

«ИИ неточен, а это означает, что он может быть ненадежным в качестве партнера», - сказал он, когда мы встретились в его офисе в Челси. «Это динамично в том смысле, что все время меняется. Он возникает и делает то, чего вы не ожидаете. И, что самое главное, он способен учиться.

«Это будет везде. Как выглядит лучший друг с искусственным интеллектом, особенно для ребенка? Как выглядит война с использованием ИИ? Воспринимает ли ИИ аспекты реальности, которых нет у нас? Возможно ли, что ИИ увидит то, что люди не смогут понять?»

Стоит согласиться с Илоном Маском в том, что, когда мы создаем ИИ без выключателя, мы «вызываем демона» и что люди могут оказаться, как сказал Стив Возняк , домашними животными в семье. (Если повезет.)

Говоря о тревогах, поднятых такими людьми, как Маск и Стивен Хокинг , Шмидт сказал, что «они думают, что, запустив ИИ, вы в конечном итоге получите робота-повелителя, который в 10, 100 или 1000 раз умнее людей. Мой ответ другой. Я думаю, все доказательства говорят о том, что эти системы искусственного интеллекта будут думать не так, как люди, но они будут очень умными. Нам придется сосуществовать ».

Вы не думаете, что Сири и Алекса убьют нас однажды ночью?

«Нет, - сказал он. «Но они могут стать лучшими друзьями вашего ребенка».

Мнения об ИИ сильно расходятся. Джарон Ланье, отец виртуальной реальности, закатывает глаза на дигератов из Кремниевой долины, одержимых «научно-фантастической фантастикой» ИИ.

«Иногда он может стать гигантским ложным богом», - сказал он мне. «У вас есть эти ботанистые парни, которые имеют ужасную репутацию из-за того, как они относятся к женщинам, которые становятся творцами жизни. «Вы, женщины, со своими маленькими биологическими утробами, не можете противостоять нам. Мы делаем здесь большую жизнь. Мы супербоги будущего ».

Мы уже давно знаем, что Кремниевая долина ведет нас насмарку. Нелепые утверждения, которые когда-то не могли получить поддержку - от демократических колец педофилии до сфальсифицированных выборов и теорий заговора о вакцинах, - теперь распространяются со скоростью света. Девочек-подростков может отправить в депрессию глянцевый обманчивый мир Instagram, принадлежащий жадной и манипулятивной компании, ранее известной как Facebook.

Шмидт сказал, что студент Оксфорда сказал ему о яде в социальных сетях: «Союз скуки и анонимности опасен». Особенно на стыке зависимости и зависти.

Вопрос о том, потеряем ли мы контроль над искусственным интеллектом, может быть в прошлом. Технологии уже манипулируют нами.

Шмидт признает, что отсутствие предвидения властителей облаков в отношении того, куда движутся технологии, было «глупо».

«Я скажу, 10 лет назад, когда я очень много работал над этими социальными сетями, может быть, это просто наивность, но мы никогда не думали, что правительства будут использовать их против граждан, как в 2016 году, при вмешательстве со стороны россиян.

«Мы не думали, что тогда это объединит эти группы с особыми интересами с этими яростно сильными системами убеждений. Это никто никогда не обсуждал. Я не хочу повторять ту же ошибку снова с новой фундаментальной технологией.»

Таким образом, Шмидт отметил, что Комиссия национальной безопасности по искусственному интеллекту , которую он возглавлял ранее в этом году, пришла к выводу, что Америка все еще «немного опережает Китай» в гонке технологий, но Китай «чрезмерно инвестирует против нас». Получается,что членов комиссии больше всего беспокоит то, что другие страны разрабатывают оружие с использованием искусственного интеллекта, обладающее «существенным разрушительным потенциалом», которое «может адаптироваться и учиться далеко за пределами намеченных целей», а не тот факт, что разработанный американскими компаниями ИИ может также совершить разрушительные действия против них самих же.