Призраки и доспехи. Противоречия синтеза алгоритмов и человека.

Самой культовой и детально проработанной вселенной, описывающей тесное взаимодействие информационных технологий и людей, остаётся серия «Призрак в доспехах» (манга за авторством Масамунэ Сиро, мультипликационные фильмы Мамору Осии и целый сонм сериалов, из которых стоит выделить два сезона «Синдрома одиночки»). Для тех, кто не знаком со вселенной расскажу основные предпосылки. Центральная точка «Призрака в доспехах» - кибермозг – преобразованный при помощи микромашинных технологий человеческий мозг. Преобразование позволяет подключаться напрямую к интернету, по желанию менять механические тела, копировать части сознания в сеть и даже вторгаться в мысли других людей, обходя их киберзащиту. Серия рассматривает множество проблем, но на мой взгляд упущен важный социальный аспект.

Вам, наверняка, часто приходится слышать об экспоненциальности прогресса, законе Мура, сингулярности. Мир вокруг нас действительно ускоряется, изменения происходят всё чаще. Но вот скорость изменений в человеческом и общественном сознании остаётся на том же уровне, на котором находилась ещё во времена Римской империи.

И вот тут возникает коренное противоречие. Если среда взаимодействия людей из физической и психической превратится в информационную, а технологии продолжат победное шествие, это может повлечь за собой перестроение всей системы отношений между людьми на всех уровнях.

Представьте себе общество как равновесную систему, которая сформировалась в результате эволюционных процессов – инстинкты, темперамент, когнитивные искажения, эмоции, возраст, предрасположенности – все эти элементы взаимодействуют и формируют личность с определённым набором взглядов, поведенческих паттернов и черт, следующий уровень – взаимодействие личностей: консерваторы и революционеры, отцы и дети, лидеры и массы – от соотношения личностей зависит точка равновесия всего общества и присутствие противовесов и взаимодополнений жизненно необходимо для выживания вида – революционеры не дают обществу застояться, консерваторы отсекают слишком рискованные проекты, общество одних только лидеров – общество раскола, только масс – деградации. Это очень сложный процесс, который связан со сменой поколений, социализацией, с исторической, национальной и прочими составляющими.

А теперь представьте, что в этот медлительный и отлаженный за сотни тысяч лет механизм врывается технология-катализатор. Одни схемы оказываются сломанными, другие исчезают, третьи ускоряются. Изменяются трудовые отношения, за короткий период миллионы людей теряют работу, изменяется принцип власти – теперь природа силы носит информационный характер. Законодатели не успевают закрывать бреши.

Сколько хлопот доставили и доставляет регуляторам технология блокчейн и криптовалюты? А если при тесном взаимодействии человека и ИИ подобные технологии будут появляться каждый месяц?

Другая сторона – использование ИИ. Монополия на использование мощного ИИ вызывает опасения, но стратегия равного доступа тоже содержит риски. Алгоритмы не способны понимать мораль так, как человек, и поэтому вызывают у общества опасения. Как раз в этой связи звучат призывы объединить человека и машины для прогресса и устойчивости. Но история показывает, что понимание морали не оградило самих людей от разрушительных сценариев.

Многие специалисты считают, что машинный интеллект никогда не достигнет человеческого уровня, потому что любая программа не выходит за рамки двухступенчатого алгоритма, остаётся инструментом. Возможно, верно и дополнение к этой мысли – люди останутся людьми и не смогут принять скорости развития технологий и выйти за свои рамки. В таком случае синтез ИИ и человека будет совмещением не достоинств, а недостатков двух систем.