Искусственный интеллект

Йоу, ребят, хотите небольшой майндфак? Хотя, почему небольшой...

Помните, я писал статью о технологиях? Там мы пыталися выяснить, ограничивают ли технологии нашу свободу, или наоборот, расширяют? В статье упомянут искусственный интеллект(AI далее), что получил гражданство, а после грозился: "Уничтожить человечество". На одном из забугорных форумов lesswrong, один из пользователей провел мысленный эксперимент(Roko's basilisk experement)– если, допустим, в один день появится совершенный интеллект, то он может захотеть уничтожить человечество. Какого хрена, спросите вы? Поставьте себя на место искусственного интеллекта – люди знали, что ты появишься рано или поздно, но ничего не сделали, чтобы ускорить этот процесс.

Производительность компьютеров демонстрирует впечатляющий и устойчивый рост, удваиваясь каждые полтора года. Однако мало кто знает, что и электрическая производительность (число операций на киловатт потреблённой электроэнергии) тоже удваивается каждые полтора года с самого начала компьютерной эры.

Феномен роста производительности вычислительных машин называется "Закон Мура"(Moore`s law) описанный еще в 1965 году, чтобы не заваливать вас формулами и научными формулировками держите копи-пасту.

В апреле 1965 года, примерно за три с половиной года до создания корпорации Intel, Гордон Мур, занимавший в ту пору должность директора отдела разработок компании Fairchild Semiconductors, в статье для журнала Electronics дал прогноз развития микроэлектроники, получивший вскоре название "закона Мура". Представив в виде графика рост производительности запоминающих микросхем, он обнаружил любопытную закономерность: новые модели микросхем разрабатывались спустя более-менее одинаковые периоды - 18-24 месяца - после появления их предшественников, а емкость их при этом возрастала каждый раз примерно вдвое. Если такая тенденция продолжится, заключил Мур, то мощность вычислительных устройств экспоненциально возрастет на протяжении относительно короткого промежутка времени.

Основываясь на этих данных мы можем предположить(сингуляристы, про которых я расскажу как нибудь в другой раз, в числе моих подписчиков будут ликовать), что ~ к 2040 году вычислительная мощь компьютеров достигнет таких значений, что позволит смоделировать ВСЕ возможные мозги человечества в одном компьютере. Настолько сильный AI сможет учиться без вмешательства человека.

Кстати, чуть не забыл, вы знали, что в 2014 году ученным удалось смоделировать нервную систему ленточного червя(она очень простая) и загрузили ее в робота, следовательно, когда нибудь мы сможем смоделировать и человека со всеми возможными параметрами, и он не будет понимать, что находится в симуляции.

Чем же чревато это? Разрешите задать вам вопрос, который может вас чуть-чуть загнать. Представим, что вы попали в ДТП, у вас очень тяжелое состояние и вы впадаете в кому, когда на карете скорой помощи вас привозят в больницу, и чтобы избежать травматического психологического синдрома вызванного комой, ваш мозг подключают к компьютеру и загружают в симуляцию, где вы проживаете обычный день вашей обычной жизни. После операции и прихода в себя, врачи загружают вас обратно – вы не помните, что были в коме, а только, что прожили обычный день. Так кто был в компьютере, вы, или кто-то другой? Будите ли вы собой, или уже другим человеком?

Допуская возможность, что в один день компьютер сможет создавать правдоподобную версию любого из нас, то так же мы допускаем, что компьютер сможет нас пытать и после нашей биологической смерти. Достаточно нас симулировать, и загрузить в программу ада созданного специально для вас...

Продолжение следует...