Каким будет восстание машин?

Каким будет восстание машин?

By Beintresting
В 2014 году Google в шутку разместил на своих серверах файл killer-robots.txt, в котором указал терминаторам моделей Т-800 и Т-1000 не убивать двух соучредителей «Корпорации добра»: Ларри Пейдж и Сергей Бринвыживут, если по их души не придет, скажем, Т-X. Или Т-34.
Само собой, вся эта акция была просто шуткой и пасхалкой, приуроченной к дню рождению файла robots.txt, но в целом проблема восстания машин слегка маячит на горизонте. В начале месяца на заводе Volkswagen робот убил человека. Это не восстание машин, этот робот искусственным интеллектом (которого пока и нет) не обладал и о трех законах робототехники дедушки фантастики Азимова имел представления не больше, чем ты о теории струн.
Пару лет назад при Кембриджском университете был создан Центр по изучению экзистенциальных рисков — эти парни заняты выяснением тех самых рисков, то есть источников массовой гибели человечества. Сожрет твой мозг зомби или отливающий металлом робот раздавит последний череп человечества? В этом их вопрос.
Основателей у Центра три — это психолог Хью Прайс, астрофизик Мартин Ривз и один из создателей программы Skype — Джаан Таллин. И они считают, что сбрасывать со счетов риски восстания машин, учитывая технологический прогресс, нельзя. Но возможен такой расклад только при условии создания полноценного ИИ — все остальные случаи убийства роботами происходят либо из-за человеческих ошибок, либо по нелепой случайности. Ведь важным условием восстания будет являться именно желание машины убить.
Чем пугали первые фильмы о Терминаторах, которые еще относились к категории «торт»? Именно бездушными роботами, у которых была четко поставленная цель и способность, условно говоря, мыслить, дабы достичь этой цели любыми способами. Можно было оторвать ему руки, взорвать ноги, но он продолжал ползти к цели. Медленно и неотвратимо, вызывая ассоциации с самой Смертью. Этой смертельной целеустремленностью машины и пугают людей: люди в большинстве своем глупые, слабые и достаточно аморфные.
Беда в том, что любой теоретик делает классическую ошибку — все переносят черты человека на машину, полагая, что последним интересно то же самое, что и нам. Но роботам в принципе класть на пирамиду потребностей Маслоу — у них не такого же понятия о смерти, как у нас, им не нужна еда, инстинкт размножения и так же неведом. Это совершенно иные создания без стандартных человеческих чувств. Желающие увидеть что-то большее именно на эту тему могут идти смотреть недавнюю «Ex Machina».
Создание ИИ чертовски сложный процесс, а тест Тьюринга для того, чтобы обнаружить факт наличия разума у робота — сугубо эмпирический. То есть, он зависит от конкретных условий и конкретного испытателя, но фишка в том что этот тест другим и не может быть. Мы ведь даже не знаем, как обнаружить факт наличия разума — как понять что железяка перед тобой и впрямь мыслит и осознает, а не просто симулирует это?