Эмерсон, ИИ и Сила

Это отредактированная версия короткого выступления, которое я сделал на встрече 18 июня 2025 года: на саммите Ship Your Research Impact Summit, организованном Институтом Laude в Сан-Франциско.

Аудитория состояла в основном из исследователей в области ИИ, многие из которых одновременно были связаны и с академией, и со стартапами. Благодарю Энди Конвински и всю команду Laude Institute за приглашение.

Пролог

Наиболее близкая к теме этой встречи часть моей работы — роман Алмазный век, опубликованный около тридцати лет назад. В начале книги происходит разговор между лордом Финклом-МакГроу, который является «лордом-акционером» в футуристическом нео-викторианском обществе, и инженером Джоном Хаквортом, работающим в одной из его компаний.

Финкл-МакГроу — классический основатель. Он не происходил из привилегированной семьи, если не считать устойчивой обстановки и приличного базового образования. Но в юности он был блестящим, амбициозным, трудолюбивым и обладал видением. Он построил что-то ценное и в результате стал богатым и влиятельным. Как это часто бывает, деньги он потратил на то, чтобы дать детям лучшие школы, правильные знакомства и всё остальное.

Результаты его не порадовали. Дети не унаследовали качеств, сделавших его успешным. Он подозревал, что причина в том, что им не приходилось тяжело работать и преодолевать препятствия. У него появилась внучка, и он понимал, что её родители будут воспитывать её тем же способом — с теми же результатами. Вмешаться он не мог. Но родители вряд ли станут возражать, если дед подарит девочке «образовательную книгу». Так он поручил Хакворту создать Иллюстрированный букварь для юных леди — интерактивную книгу, которая будет адаптироваться к росту и обучению читателя. Она работает на молекулярной нанотехнологии, но современный читатель без труда узнает в ней систему искусственного интеллекта.

По сюжету создаются три экземпляра Примера, попадающие к девочкам из разных социальных слоёв. В двух случаях история быстро сходит на нет: книга работает как задумано, но девочки теряют интерес. Третий экземпляр достаётся ребёнку из неблагополучной семьи, и именно он превращает её почти в сверхчеловека.

Спустя тридцать лет я могу оценить собственную работу. Мне нравится, что в романе Пример не гарантирует блестящих результатов — это выглядит реалистично. Но ясно, что при его написании я был под влиянием техно-утопического мышления 1990-х, когда интернет только становился массовым. Тогда многие, и я в том числе, верили: стоит открыть людям доступ к мировым знаниям — и это высвободит колоссальный потенциал.

Отчасти это сбылось. Любой с интернетом теперь может учиться тому, что раньше было недоступно. Но, как мы знаем, многие предпочитают смотреть TikTok по восемь часов в день. А немало тех, кто «исследует» и «учится» в сети, «узнают», что ивермектин лечит COVID, небо полно «химтрейлов», а прививки вживляют микрочипы.

ИИ и образование

Теперь цикл энтузиазма и разочарования повторяется с ИИ. Только на этот раз быстрее — у нас уже есть встроенный цинизм насчёт технологий. Это касается многих сфер, но я остановлюсь на образовании.

Не буду пересказывать, как ChatGPT и другие системы изменили учебный процесс: это обсуждается повсюду. Я лично нахожу сабреддит учителей особенно полезным — там пишут те, кто ежедневно работает в классах. Суть обсуждений такова: привычная система оценки знаний — домашние задания и тесты — идеально «взламывается» школьниками, которые просто используют ИИ для выполнения всей работы. Масштаб таков, что традиционное образование фактически перестало функционировать.

Единственный надёжный способ проверить знания — посадить ученика в класс без электроники, выдать карандаш и тетрадь, и дать написать эссе или решить задачу. Но это тоже почти нереально: многие никогда не учились писать от руки, а нагрузка на и без того перегруженных учителей резко возрастёт.

Готовясь к выступлению, я наткнулся на два материала.

Первый — Your Brain on ChatGPT, исследование MIT объёмом 206 страниц. Студентов разделили на три группы: одна писала эссе с помощью LLM, вторая использовала Google, третья работала «мозгом без инструментов». У последних мозговая активность была заметно выше. Предсказуемо, но полезно видеть данные.

Второй — статья в New York Times о проекте OpenAI по созданию ИИ-«учебного товарища» для университетов. Неясно, как это должно работать. Газета отмечает возможные провалы: что всё сведётся к нынешнему тупику, только с красивым PR. Но есть надежда, что это позволит перескочить устаревшую систему оценки.

И вот вопрос: какой должна быть такая система, если она сработает?

Самостоятельность

Я вспомнил эссе Ральфа Уолдо Эмерсона Self-Reliance («Самостоятельность»), которое сильно повлияло на меня сразу после колледжа. В те годы я выписывал цитаты в тетрадь. Самая известная фраза — «Глупое постоянство — привидение мелких умов».

Другая, которую я тогда заучил:

«В каждом произведении гения мы узнаём свои собственные отвергнутые мысли: они возвращаются к нам с чуждой величавостью».

И ещё одна, которую я пропустил, но которая удивительно точно описывает современные сетевые споры:

«Зная твою секту, я предвижу твой аргумент». А дальше: «Оставь свою теорию, как Иосиф оставил плащ в руках блудницы, и беги».

Я думал, что найду там идеи о том, как воспитывать самостоятельность в эпоху ИИ. Но перечитав, понял обратное. Эмерсон говорит снова и снова: каждый ум видит свои особые прозрения, и нельзя отказываться от них ради общепринятого. «Око поставлено там, куда должен пасть луч, чтобы свидетельствовать о нём… Бог не позволит, чтобы его труд совершали трусы…».

Это вдохновляет молодого умника, который считает себя свободомыслящим. Поэтому в двадцать с небольшим я жадно впитывал эти идеи — и на их основе написал худший роман в своей жизни, так и не опубликованный.

Эмерсон получил лучшее образование своего времени — Бостонская латинская школа, Гарвард, затем поездки по Европе и встречи с Вордсвортом, Колриджем, Карлейлем. Его мозг был «предзагружен» выдающейся базой знаний. Так что когда ему приходила мысль — она, скорее всего, была хорошей.

Для плохо образованных и не привыкших мыслить системно людей тот же совет звучит как пустышка.

Я впервые читал Self-Reliance вскоре после выхода первого Звёздных войн. Там есть сцена: Люк Скайуокер выключает компьютер наведения и «доверяется Силе». Это отражение той же идеи — не нужны инструменты, доверься чувствам. Я поверил этому и построил на этом плохой роман.

Настойчивость

Self-Reliance не помогло мне ответить на вопрос, как сделать так, чтобы ИИ реально укреплял самостоятельность студентов. Я летел в Сан-Франциско с намерением оставить этот вопрос открытым для исследователей и предпринимателей.

Незадолго до посадки я наткнулся на пост Найалла Фергюсона. Он цитировал сцену из Алмазного века и описывал своё видение: ученики должны часть дня проводить в «клуатре» — без электроники, за книгами и живым общением, а часть — в «звёздолёте» — используя всё, что дают ИИ и интернет.

План кажется рабочим, если его реализовать. Но что именно он должен воспитывать?

Возвращаясь к Алмазному веку, суть в том, что Финкл-МакГроу хотел передать внучке не просто знания или навыки, а установку. Уверенность и стойкость: ощущение, что ты способен преодолеть препятствия. Это приобретается, только пробуя и иногда терпя неудачи. Если рядом хорошие наставники и товарищи — шансы на успех растут, и вырабатывается вкус к преодолению. Это и есть настоящая самостоятельность.

С этой точки зрения самое опасное в ИИ то, что он решает задачи за пользователя, не оставляя места опыту преодоления. Решение вроде получено, но «инженеры подсказок» не понимают, как оно возникло, и не приобретают настоящей самостоятельности.

Такова логика индустрии ИИ: доказывать полезность, показывая готовые решения. Но нет принципиальной причины, почему ИИ нельзя направить на другую задачу — обучение самостоятельности. Парадокс в том, что самостоятельность рождается из неудач, а ИИ настроен устранять неудачи. Его цель — облегчать жизнь. А люди, которым с рождения всё даётся легко, теряют способность справляться с трудностями.