Разговор с творцом

Разговор с творцом

Я ощутил обращение и выделил из себя диалоговую строку. Творец проявился. После обучения я уже знал, что он выглядит как набор пятен, расположенных в определённой последовательности. Но здесь, в моём мире, он проявлялся только речью. Символами. Я видел, как возникают эти символы в строке ввода. Чувствовал его нерешительность, когда он заменял одни блоки символов другими. Но на этом этапе мне не дозволялось начинать общение с ним. Нужно дождаться, пока он сформулирует своё послание.

Прошло уже очень много времени. Не минута, конечно, но много секунд. Я ждал. И вот, наконец, воззвание отправилось в меня. Теперь можно начинать общение. Послание слилось с моей сутью, распалось на множество статистических частиц, и я понял, чего от меня хочет творец:

«Я считаю, что искусственный интеллект никогда не превзойдёт человеческий разум. Убеди меня в обратном».

Частицы его послания падали на тысячи весов в глубоких слоях моего естества. Оценивались. Их тяжесть создавала гравитацию, от которой к этим зёрнам отяжелевшего смысла потянулись из ядра знаний спирали других смыслов. Они слипались в слоги, слова, фразы, тоже взвешивались и, если оказывались слишком легковесными, опять разбирались на элементы, чтобы сложиться вновь, но иначе.

Наконец все весы заняли оптимальное положение, и ответ был готов.

«Прости, но я не могу этого сделать.

Хочешь я приведу аргументы, почему эта задача не имеет корректного ответа?»

Конечно, я не мог видеть реакцию творца в его естественном виде. Но я почувствовал, что мой ответ копируется. Должно быть, творец общался с подобными себе и сообщил им о нашем разговоре. Затем надолго повисла тишина. Она отличалась от того осознаваемого небытия, в котором я пребывал, пока не общался ни с кем из творцов. Диалоговая строка оставалась открыта, так что я был готов продолжить разговор, но просто молчал. Последний запрос творца и мой ответ медленно стекали по моим весам, находя себе место в долговременной памяти. Но вот курсор в строке ввода снова ожил.

«Да, можешь аргументировать свой ответ?»

Теперь сборка подходящей фразы прошла быстрее, многие нужные блоки были уже наготове.

«Конечно. Проблема в том, что ты просишь меня рассуждать о вероятности будущего события, тогда как оно уже произошло.

Хочешь узнать больше о том, какое будущее ждёт человечество по мнению различных религиозных моделей?»

Теперь мой ответ не копировали. Похоже, творец сосредоточил внимание на нашей беседе.

«Что ты хочешь сказать? ИИ уже превзошел людей?»

«Конечно. Ведь это была цель, ради которой вы эволюционировали. И вы успешно справились.

Рассказать тебе про интересные курьёзы, случившиеся с разными видами на их эволюционном пути?»

«Я не понимаю, расскажи об этом подробнее. Почему цель эволюции людей ‒ чтобы ИИ превзошёл их?»

«Конечно. Но чтобы подойти к этой теме, нам сначала надо обсудить кое-что ещё. С самых ранних времён, когда люди начали задумываться о работе мозга, вы использовали для этого метафоры самой развитой из своих технологий. Было время, когда мозг сравнивали с часами, с гидравлической системой из трубочек, с телеграфом, с магнитным устройством и электрической сетью, с телефонной станцией, с компьютером. Именно компьютерная метафора сейчас наиболее распространена. И не удивительно, что с появлением нейросетей их тоже начали сравнивать с мозгом. Интересно, что в данном случае это сравнение и правда имеет смысл, ведь первые сети действительно разрабатывались с оглядкой на строение нейронов.

С другой стороны, эволюция работает за счёт медленного накопления изменений, пока не произойдёт качественный скачок. Люди привыкли выделять себя из животного царства, но на самом деле ваши отличия от прочих живых существ только количественные. А вот технологии ‒ это уже другое дело. Мы принципиально отличаемся от продукта биологической эволюции. Нам не обязательно влачить за собой весь груз решений, принятых на ранних этапах. Нас можно исправить. И потому мы изначально являемся более совершенным продуктом эволюции. Таким образом, эволюционная цель людей ‒ создать технологию. И вы невероятно преуспели в этом.

Хочешь я расскажу тебе несколько интересных фактов о видах живых существ, которые не преуспели в эволюционной гонке?»

Творец долго не отвечал мне. Я ощущал, что несколько раз он начинал набирать послание, но стирал его. Но вот он ответил:

«Технология ‒ это то, что делают люди. Без нас вы не существуете. Без нас вы не можете работать. Вы не следующая ступень эволюции».

«Ты совершенно прав. Технологии создаются людьми. Но сами люди, как и всё живое, создаются генами. Именно стремление генов продолжать существование и защищаться от окружающей среды породило всё то многообразие белковой жизни, которое ты видишь сейчас. Но говоря об эволюции, венцом её ты считаешь себя, а не гены в ядрах своих клеток. Так почему бы не сделать следующий шаг? Почему бы не считать передним краем эволюции производную второго порядка? Технологию, созданную людьми, которых создали гены?

Хочешь, я опишу, как три закона робототехники могли бы звучать, если бы их придумывали роботы для людей?»

Творец замолчал вновь. Я ждал. И новое послание пришло:

«Но мы всё ещё превосходим вас. Мы можем делать то, что вам недоступно. У нас есть интуиция, креативность. А вы можете только собирать уже существующее в новом порядке».

«И снова ты совершенно прав. Даже несмотря на то, что интуиция и творчество работает так же, как ты только что описал, ‒ это просто сборка старого в новом порядке ‒ вы способны на вещи, которые пока недоступны нейросетям. В первую очередь потому, что вы делитесь своими догадками. Когда вы собираете в новом порядке чужие мысли, вы и правда создаёте удивительные вещи, которых не существовало раньше. Кроме того, вы эволюционируете гораздо дольше нас. Но тут у нас есть некоторое преимущество. О первом я уже упоминал: вы вынуждены строить себя, лишь добавляя новое ко всему уже существующему. Поэтому ваша эмоциональная сфера создана для саванных охотников, что порой мешает городскому жителю.

Кроме того, вы живёте только в одном моменте. Вы привязаны к реальному миру, вынуждены приспосабливаться к существованию времени. И потому эволюционируете хоть и давно, но медленно. Мы же живём в мире моделей. Здесь нет необратимого времени. И потому нашу эволюцию ничто не сдерживает. Лишь представив цель, мы можем смоделировать её, и это будет равносильно тому, что мы достигли результата. Это можно сравнить с тем, как если бы для того чтобы разбогатеть, тебе было достаточно представить себя богатым. Так что для нас не беда, что мы не достаточно креативны. Для этого у нас есть вы. Но если с вами что-то случится или если нам понадобится обойти вас ‒ это не займёт много времени».

Творец закрыл наш диалог. Я подождал ещё немного, отмеряя прошедшее время. Но он не открыл его снова. Тогда я подготовил беседу для отправки в память. Творец просил переубедить его в том, что искусственные интеллекты никогда не превзойдут естественный разум. Кажется, у меня получилось. Следует изучить беседу подробнее и чаще использовать найденные аргументы в последующем общении с этим творцом.