Бенхамин Лабатут. MANIAC. Роман.
Mikhail KvadratovИздательство «Ад Маргинем Пресс», 2024
ПЛЮС. Исторические события и биографии выдающихся ученых в художественной обработке. Нон-фикшн с элементами придуманного. Саспенс и захватывающий сюжет.
МИНУС. Если читатель романа ждет строго подтвержденных мемуаров и задокументированных научных фактов — здесь не совсем это.
РАВНО. Так ли опасен грядущий искусственный интеллект, как уже опробованное на людях оружие массового ядерного поражения. Не поддающаяся формальной логике наука последних времен. Нездоровые гении.
Часть 1. Заметки о книге
Сверхзадача романа MANIAC Бенхамина Лабатута — привлечь внимание читателя к опасности искусственного интеллекта. В книге проводятся глубинные аналогии его внедрения с разработками ядерного и термоядерного оружия. Конечно, в настоящее время для того, чтобы поверить в предстоящие бесчинства ИИ, нужна определенная фантазия. В отличие от применения ядерного оружия, свидетелем которого было население целой планеты. Сейчас, правда, внедряется мысль, что в ядерном оружии нет ничего страшного. Ключевой образ для раскрытия основной темы романа — одно из первых вычислительных устройств MANIAC (Mathematical Analyzer Numerical Integrator and Automatic Computer; на самом деле было несколько подобных моделей, но у этого говорящая аббревиатура); на нем рассчитывали ядерное оружие, предполагаемое климатическое оружие на основе термоядерного взрыва, кроме того, создали программы игры в шахматы и в игру го, которые начали выигрывать у чемпионов мира. В этом автор видит признак превосходства ИИ над человеком и нависшей над человечеством опасности. Хотя, конечно, люди без боя не сдаются, какие-то партии в шахматы и в игру го остались за живыми. Кроме машин на опасной стороне есть и люди, например, великий математик Джон фон Нейман, участник Манхэттенского проекта и один из создателей прототипа вычислительной машины. «Зловещий машиноподобный ум без тормозов». С другой стороны, это просто человек со своими слабостями и любовью. Фон Нейман в романе — скорее художественный образ, частично вписывающийся в воспоминания современников, хотя даже заверенным мемуарам не всегда можно доверять. Тем более верить писателям. Одна из проблем, которые поднимает автор — сбой нормальности у творцов: вундеркиндов и людей, перенесших физические и психические травмы. Но, похоже, только такие могут что-то создавать в современной науке, не всегда соответствующей критериям классической логики. Вообще не похоже, что человека когда-то создали по плану, а природа была придана ему в услужение, при этом секреты природы можно открывать степенно, путем спокойного логического обдумывания в перерывах между обедом и молитвой. На самом деле в обмен за тайны природа терзает создателей научных теорий. И еще, похоже, чем больше секретов человечество раскрывает, тем быстрее приближает свой конец. Животные, неспособные добывать опасные тайны природы, если и исчезают, то под воздействием внешних катаклизмов. Человек, животное разумное, умудряется заглядывать за опасную черту и способен устраивать такие катаклизмы себе сам.
Часть 2. Художественные приложения
«В 1957 году, когда не стало Янчи, килобайтов компьютерной памяти в мире было всего ничего. Меньше, чем нужно современным машинам для показа одного пикселя изображения. При таких ограниченных ресурсах невозможно было всерьез рассуждать о том, что возможно или вероятно; компьютерная наука едва появилась на свет, она была совсем молода, и он мог беззаботно радоваться, давать волю фантазии, как расшалившийся ребенок, не привязываясь к реальности, не задумываясь о последствиях. Тогда впервые за годы нашей дружбы я промолчал, позволил ему лелеять свои фантазии, сколько захочет, потому что искренне воспринимал их как прихоть умирающего от боли человека. Одновременно с этим я чувствовал вину за то, что не спустил его с небес на землю, не стал критиковать, но сколько всего изменилось с тех пор! Цифровой мир расширился так далеко, как нам и не снилось. Не просто возможное, но реальное совсем скоро превзошло наши самые смелые мечты. Фантазии Янчи уже не кажутся такими уж иррациональными, поэтому кое-что из последнего, о чем он писал, преследует меня до сих пор.
Он всегда был пессимистично настроен по поводу будущего и человечества вообще, но, когда болезнь завладела им, стало казаться, что черная рука омрачает его мысли, расцвечивает его взгляды и мировоззрение самыми темными цветами. Приближение смерти, неизбежность его собственной смертности довели его до отчаяния, толкнули за пределы логического. Под конец жизни он видел будущее настолько мрачным, представлял себе настолько страшные сценарии, что перестал разговаривать и не захотел ни с кем делиться своими мыслями. В своем последнем письме, адресованном мне, он писал, что вскоре мы обязательно столкнемся со сменой фазы: “Современные жуткие возможности ядерной войны могут привести к чему-то пострашнее. Буквально и фигурально выражаясь, места становится всё меньше. В долгосрочной перспективе мы прочувствуем ограниченность реальных размеров Земли, и это будет критично. Назревает кризис технологий. За время, оставшееся до наступления нового тысячелетия, мировой кризис, вероятно, превзойдет все прежние закономерности. Когда и как он закончится, что оставит после себя — не знает никто. Мало утешения в мыслях о том, что интересы человечества однажды изменятся, угаснет современная тяга к науке, и совершенно иные устремления будут занимать мысли людей. Технология, в конце концов, — это продукт деятельности человека, ее нельзя воспринимать как что-то Иное. Она такая же часть нас, как паутина — часть паука. Тем не менее, похоже, что постоянно развивающиеся технологии приближают какую-то обязательную сингулярность, поворотный момент в нашей истории, за которым дела людей невозможно будет вести так, как мы вели их до сих пор. Прогресс станет непостижимо быстрым и сложным. Власть технологий сама по себе — достижение двоякое, а наука насквозь нейтральна, она дает нам только инструменты для достижения цели и ко всему равнодушна. Опасность создает не особенно извращенная деструктивность какого-то определенного изобретения. Опасность имманентна. Нет лекарства от прогресса”».
Канал в телеграмме:
Напечатано: