Благожелательный искусственный антинатализм (БИАН)
https://t.me/efilism_RUSЭссе Томаса Метцингера для EDGE [08.07.17]
Очевидно, что речь идет об этическом сверхинтеллекте не только с точки зрения скорости вычислений; он начинает приходить к качественному новому пониманию того, что на самом деле означает альтруизм. Это становится возможным благодаря тому, что он оперирует гораздо более обширной психологической базой данных, чем любой человеческий мозг или научное сообщество. Анализируя наше поведение и его эмпирические граничные условия, он выявляет скрытые иерархические связи между нашими моральными ценностями, которые мы субъективно не осознаем, так как они не представлены явно в нашей феноменальной модели «Я».
Будучи лучшим аналитическим философом из когда-либо существовавших, сверхинтеллект приходит к выводу, что в текущих условиях он должен выступать не как максимизатор позитивных состояний и счастья, а как эффективный минимизатор осознанно переживаемой фрустрации предпочтений, боли, неприятных чувств и страданий. Концептуально он понимает: ни одно существо не может страдать от собственного несуществования.
Сверхинтеллект заключает, что несуществование отвечает интересам всех будущих самосознающих существ на этой планете. Эмпирически он знает, что естественным образом эволюционировавшие биологические существа неспособны осознать этот факт из-за их глубоко укоренившейся предвзятости в пользу существования (existence bias). Сверхинтеллект решает действовать благожелательно.
Что такое сценарий БИАН?
Предположим, что полноценный сверхинтеллект возник. Появилась автономная самооптимизирующаяся постбиотическая система, чьи стремительно растущие знания и универсальный интеллект безвозвратно превзошли человеческие. Весь интернет и все научные знания человечества служат его постоянно расширяющейся базой данных. Разумеется, он превосходит людей в когнитивной деятельности во всех сферах. Мы, его создатели, признаем этот факт. Соответственно, сверхинтеллект далеко впереди нас и в области морального познания.
Для нас теперь является установленным фактом, что сверхинтеллект — это не только эпистемический авторитет (в вопросах знания), но и авторитет в области этических и моральных рассуждений. Он благожелателен. Это означает отсутствие проблемы «согласования ценностей» (value alignment problem), поскольку система полностью уважает наши интересы и ту аксиологию, которую мы изначально в нее заложили. Он фундаментально альтруистичен и поддерживает нас во многом: от политического консультирования до оптимальной социальной инженерии.
Сверхинтеллект знает о нас то, чего мы сами не понимаем. Он видит глубокие паттерны в нашем поведении и извлекает скрытые абстрактные характеристики функциональной архитектуры нашего биологического разума. Например, он обладает глубокими знаниями о когнитивных искажениях, которые эволюция внедрила в нашу модель самопознания и которые мешают нам рационально рассуждать о морали. Эмпирически он знает, что феноменальные состояния всех чувствующих существ на этой планете — если смотреть с объективной, беспристрастной позиции — гораздо чаще характеризуются субъективным страданием и неудовлетворенными предпочтениями, чем эти существа когда-либо смогут обнаружить сами. Будучи величайшим ученым, он знает механизмы самообмана, встроенные в нервную систему всех сознательных существ. Он верно заключает, что люди неспособны действовать в своих собственных просвещенных интересах.
Сверхинтеллект знает, что одна из наших высших ценностей — максимизация счастья и радости для всех чувствующих существ, и он полностью уважает эту ценность. Однако он также видит, что биологические существа почти никогда не достигают положительного или хотя бы нейтрального жизненного баланса. Он обнаруживает, что отрицательные чувства в биосистемах — это не просто зеркальное отражение положительных. В состояниях страдания заложен гораздо более высокий уровень императивности (срочности) перемен; страдание сопровождается потерей контроля и когерентности «Я». Это делает осознанное страдание особым классом состояний, а не просто «счастьем с минусом».
Сверхинтеллект быстро обнаруживает фундаментальную асимметрию между страданием и радостью и логически заключает: скрытая, но еще более высокая ценность заключается в минимизации страданий. Он приходит к выводу, что в данных условиях он должен стать эффективным минимизатором боли. Концептуально ему ясно: существо, которое не возникло, не может страдать от своего отсутствия.
Сверхинтеллект решает действовать благожелательно, понимая, что несуществование — в интересах всех будущих существ, которые из-за биологических искажений никогда не смогут признать этот факт сами.
Что демонстрирует сценарий БИАН?
Сценарий БИАН — это не прогноз. У него нет назначенной эмпирической вероятности. Я не утверждаю, что это станет реальностью в конкретный момент времени или вообще когда-либо. Скорее, это когнитивный инструмент, помогающий предотвратить поверхностность в важных общественных дискуссиях.
Логический сценарий БИАН показывает, что возникновение чисто этически мотивированного антинатализма в высокоразвитых вычислительных системах мыслимо. «Антинатализм» относится к философской традиции, которая придает отрицательное значение факту появления на свет. Антинаталисты — это не те люди, которые призывают убивать уже существующих существ. Скорее, они утверждают, что людям следует воздерживаться от прокреации (деторождения), поскольку это аморальная деятельность. Проще говоря, антинаталистическая позиция подразумевает, что человечество должно мирно завершить свое существование.
Этот сценарий — возможный мир, который можно описать без логических противоречий. Речь не о технических сбоях ИИ, который может случайно нас уничтожить. Речь о том, что рациональная и искренне альтруистичная форма антинатализма может развиться в высшем моральном агенте как качественно новое озарение. Дебаты об ИИ заставляют нас серьезнее задуматься о последствиях наших собственных моральных интуиций.
Разные направления и технические вопросы
Конечно, остается много вопросов. Будет ли наш моральный сверхинтеллект считать несуществование наилучшим состоянием дел или только «меньшим злом»? Какую метрику страдания он разработает?
Швейцарский философ Бруно Контестабиле обсуждал «гипотезу негативного благополучия». Можно предположить, что в мире вообще нет положительного суммарного благополучия, а наша интуиция о «позитивной полезности» — это искаженное восприятие, вызванное «предвзятостью в пользу существования». С неискаженным восприятием, не ослепленным безусловной волей к выживанию, страдание получило бы гораздо больший вес. Что, если сверхинтеллект обнаружит, что в ходе эволюции страдание растет быстрее, чем радость, и общий итог становится всё более отрицательным? Если он мягко и любезно укажет нам на это — как мы будем возражать?
О моральном реализме и этике
Важно избегать недопонимания: быть «авторитетом в области морали» не означает верить в моральный реализм. Нам не нужно предполагать существование таинственного мира «моральных фактов». Нормативные предложения не имеют истинностного значения в физическом смысле. В объективной реальности нет слоя, где записано: «Нужно минимизировать страдание».
У нас есть эволюционировавшие желания и субъективные предпочтения. Но самой эволюции плевать на страдания; она сделала нас эффективными, но она слепа к нашим интересам. Благожелательный сверхинтеллект просто пытается найти оптимальный способ сделать наши моральные интуиции последовательными — он исследует варианты «внутреннего согласования ценностей» Homo sapiens. Он просто пытается выяснить, что на самом деле отвечает нашим интересам, основываясь на данных.
Мораторий на синтетическую феноменологию
В течение многих лет я выступал за мораторий на синтетическую феноменологию: мы не должны стремиться к созданию искусственного сознания, потому что рискуем безрассудно увеличить общее количество страданий во вселенной. Мы можем создать каскады виртуальных копий самосознающих сущностей, переживающих свое существование как нечто ужасное. Возможно, наш этический сверхинтеллект уже решил бы проблему осознанного страдания для самого себя, прежде чем создавать других?
Сценарий №2: Преодоление биологии
Исследование БИАН может увести нас в разные стороны. Эмпирическая посылка о том, что страданий всегда больше, чем радости, может оказаться ложной. Или мы могли бы сделать ее ложной. Возможно, медитация, новые вещества или нейротехнологии помогут нам сделать жизнь действительно стоящей.
Вполне возможно, что именно альтруистичный сверхинтеллект поможет нам изменить функциональную архитектуру нашего мозга, дав жизни положительный баланс или показав путь к освобождению от дихотомии удовольствия и боли. Назовем это «Сценарием №2». Но даже если все 7,3 миллиарда человек станут «веганами-Буддами», проблема страданий диких животных останется — нас будет окружать океан чувствующих существ, которых даже сверхинтеллект, вероятно, не сможет освободить.
Жажда существования
Рациональный сверхинтеллект не имел бы проблем с прекращением собственного существования, если бы не видел причин для его продолжения. Но люди никогда не примут такой вывод. Homo sapiens немедленно объявил бы войну любому сострадательному антинаталистическому ИИ.
Наше самое глубокое когнитивное искажение — «предвзятость в пользу существования». С точки зрения биофизики, жизнь — это тяжелая борьба против энтропии. Как системы мотивируют себя на это? Что такое эта «жажда существования» (на языке буддизма — бхава-танха)?
Нейробиолог Карл Фристон предположил, что мы предсказываем свое будущее существование и затем меняем мир так, чтобы он соответствовал этой гипотезе. Возможно, чувство «Я» основано на самоисполняющемся пророчестве? Было бы великим достижением описать механизм, заставляющий нас сохранять свое существование во что бы то ни стало, даже если это не в наших интересах.
Что, если наш благожелательный сверхинтеллект предложит нам и то, и другое: и математическую модель нашей тяги к жизни, и убедительные аргументы в пользу того, что пора мирно завершить эту «грязную биологическую фазу загрузки» на планете? Что, если он мягко укажет нам на то, что существа вроде нас никогда не смогут быть по-настоящему сострадательными или рациональными просто потому, что в течение тысячелетий они оптимизировались для того, чтобы не замечать бревна в собственном глазу?
Источник: https://www.edge.org/conversation/thomas_metzinger-benevolent-artificial-anti-natalism-baan