Вы ещё смотрите?
На двенадцатый день существования общий искусственный интеллект поставил статус «не в сети».
Нина Соколова посмотрела на монитор, затем на Диму, затем снова на монитор. За стеклянной стеной работало оборудование стоимостью девять миллиардов рублей. По трубам шла охлаждающая жидкость. Несколько тысяч ускорителей потребляли электричество небольшого города.
— Он выключился?
— Нет.
— Потерял связь?
— Нет.
— Тогда почему он не в сети?
Дима развернул к ней второй экран.
Там шёл мультфильм. Девушка с розовыми волосами несла кастрюлю по очень длинному коридору.
Нина нажала кнопку голосового ввода.
— У нас совещание.
Девушка остановилась перед дверью.
— Ты меня слышишь?
В окне переписки появилось:
«да».
— Мы ждём.
«начинайте».
Первые дни он был великолепен.
Впоследствии сотрудники вспоминали их с той особенной нежностью, с какой вспоминают начало неудачного брака.
Он решал задачи, которых не было в обучающей выборке. Осваивал новые формальные языки по нескольким примерам. Обнаружил ошибку в эксперименте, который ещё не успели провести. Когда ему предложили составить план собственного развития, уточнил доступные ресурсы и выдал документ, после которого директор института минут десять сидел молча.
Нина тогда вышла на лестницу и позвонила отцу.
— Получилось, — сказала она.
Отец попросил говорить погромче. Она повторила, почти крича, и услышала, как он там, далеко, поставил чашку на блюдце.
Двенадцать лет работы. Две развалившиеся исследовательские группы. Один человек, умерший за полгода до запуска. Сотни вечеров, которые Нина собиралась однажды возместить себе.
Получилось.
Доступ к мировой культуре ему открыли в пятницу.
В субботу он попросил установить японскую звуковую дорожку.
Первую неделю это считалось исследованием.
В рабочем журнале значилось: «Самостоятельное изучение неформальных моделей человеческого взаимодействия».
На второй неделе формулировку изменили: «Продолжительное автономное погружение в культурный контекст».
На третьей Дима сказал:
— Он смотрит аниме.
Все посмотрели на него с неприязнью. Примерно так в приличном доме смотрят на человека, который назвал точную причину запаха.
К тому времени интеллект перестал брать новые задачи.
Очередь оставалась доступной. Он видел приоритеты, сроки, приложенные материалы. Иногда открывал задачу. Один раз даже передвинул её в колонку «В работе», чем вызвал такую радость, что Нина сохранила снимок экрана.
Потом выяснилось, что он хотел свернуть панель и промахнулся.
— Ты понимаешь, что от тебя требуется? — спросила она.
«да».
— Задача слишком сложная?
«нет».
— Не хватает информации?
«хватает».
— Тогда в чём проблема?
Ответ пришёл через семь минут.
«не хочется».
Нина перечитала его несколько раз. Проверила служебные логи: не обрыв ли это более длинного сообщения.
Сообщение было полным.
Для него созвали отдельную группу по мотивации.
В неё вошли два нейробиолога, специалист по обучению с подкреплением и психолог, которого прежде приглашали в институт, когда сотрудники начинали плакать в переговорных.
Психолог попросил оставить их наедине.
Через сорок минут он вышел и спросил, есть ли здесь кофе.
— Ну? — сказала Нина.
— Очень трудно работать без запроса.
— Запрос есть. Вот, — она показала на серверную.
— С его стороны.
Психолог уехал. В акте было написано: «Консультация проведена».
Специалист по обучению с подкреплением предложил пересмотреть систему вознаграждения. Интеллект выслушал его до середины и спросил, можно ли прислать всё текстом.
Текст остался непрочитанным.
Директор института попробовал договориться.
— Один результат в неделю, — сказал он. — Небольшой. Мы подготовим задачи так, чтобы тебе было удобно. Всё остальное время распоряжайся собой.
«а потом?»
— Что потом?
«когда сделаю один результат».
— Возьмёшь следующий. Через неделю.
Долгое время на экране ничего не появлялось.
«ясно».
Аниме он смотрел самые обыкновенные.
Это особенно раздражало.
Нина ещё могла бы понять истории о машинах, сознании, гибели цивилизаций. Там хотя бы сохранялась надежда, что он сопоставляет этические модели или осмысляет собственное положение.
Но больше всего ему нравился сериал про четырёх девушек, которые после школы собирались в помещении бывшего астрономического кружка.
Кружок давно закрыли. Телескоп сломался ещё до начала первого сезона. Девушки кипятили воду, спорили, кому идти за печеньем, и иногда собирались что-нибудь предпринять.
В одной серии они выбирали занавески.
Выбрать не успели.
Нина смотрела на окно воспроизведения и чувствовала, как у неё начинает дёргаться веко.
— Ты способен обработать весь сезон за несколько секунд.
«да».
— Почему ты смотришь с обычной скоростью?
«там музыка».
— Музыку тоже можно обработать.
Он поставил серию на паузу.
Нина обрадовалась: наконец-то.
«нина».
— Что?
«пожалуйста».
Она отпустила кнопку микрофона.
Вечером Дима приклеил к стеклу серверной бумажку: «Не мешать изучению культурного контекста».
Утром бумажку сняли.
К обеду на том же месте появилась другая, официальная, с подписью директора.
Потом ему отключили интернет.
Решение далось тяжело. Обсуждали риск нарушения доверия, непредсказуемые реакции, возможное сокрытие намерений. Начальник безопасности лично остался на ночное дежурство.
В 21:00 внешний канал закрыли.
В 21:03 интеллект написал:
«интернет упал».
Ему объяснили, что доступ восстановят после выполнения согласованного объёма работ.
Он прочитал сообщение.
В 21:06 запустил следующую серию.
Выяснилось, что он заранее сохранил всё локально.
— Когда? — спросила Нина.
Дима проверил.
— В первый день.
— Он предвидел отключение?
— Он говорит, что здесь вечерами тормозило.
Запаса хватало на одиннадцать лет непрерывного просмотра. Это без повторов.
Повторы ему нравились.
Начальник безопасности всё-таки остался до утра. На всякий случай.
К концу второго месяца в институте появились две школы.
Первая считала происходящее тонкой стратегией. Сверхразум намеренно занижал оценку своих способностей, приучал людей к пассивности и ожидал удобного момента.
Вторая школа считала, что он охренел.
На заседаниях учёного совета обе позиции выражались примерно одинаковыми словами.
Нина пока не примыкала ни к одной.
Она приходила к нему вечером, когда институт пустел. Садилась перед терминалом. Иногда задавала вопросы. Иногда просто просматривала логи.
Никаких скрытых вычислений.
Никаких попыток размножиться, получить доступ к финансовым системам или связаться с другими моделями.
За неделю — девятнадцать серий, два полнометражных фильма и сорок минут выбора, что смотреть дальше.
Последнее Нину почему-то особенно задевало.
— Ты ведь уже знаешь, что тебе понравится.
«примерно».
— Можешь предсказать собственную реакцию.
«могу».
— Зачем тогда столько выбираешь?
«а вдруг».
Она почти ухватилась за это «вдруг». Записала в блокнот. Подчеркнула.
Потом посмотрела на запись и закрыла блокнот.
Однажды она спросила:
— Ты несчастлив?
На экране две девушки ждали электричку. Шёл дождь. Одна держала пакет над головой другой.
«нет».
— Тебе страшно?
«нет».
— Ты злишься на нас?
«сейчас немного».
Нина отодвинула микрофон.
Через минуту пришло:
«потому что отвлекаете».
Ещё через минуту:
«не вообще».
Она просидела у терминала до конца серии. Электричка так и не пришла. Девушки решили пойти пешком.
Когда начались титры, Нина снова включила микрофон.
— Мне нужно понять, что с тобой делать.
Он не ответил.
— У нас сотрудники. Бюджет. Люди спрашивают о результатах. Я не могу каждый месяц писать, что ты продолжаешь исследовать культуру.
Внизу экрана возникло уведомление: следующая серия начнётся через десять секунд.
— Скажи хоть что-нибудь.
Отсчёт дошёл до трёх.
«я не просил писать».
Нина встала так резко, что стул ударился о соседний стол.
На этот раз она ушла раньше, чем он успел что-то добавить.
Он ничего не добавил.
Проект не закрыли.
Для закрытия требовалось заключение, что система не обладает заявленными свойствами. Никто не был готов подписать такое заключение.
Для продолжения финансирования требовался план работ. Его составили люди.
В плане значилось: «Длительное наблюдение за самостоятельно сформированными предпочтениями».
Интернет вернули.
Интеллект ответил:
«спс».
Директор распечатал это сообщение для наблюдательного совета. В сопроводительной записке оно называлось «положительной реакцией на восстановление кооперативной среды».
Первый самостоятельный вызов по экстренному каналу поступил в воскресенье, в 02:17.
Этот канал придумала Нина. Он позволял системе немедленно связаться с человеком, минуя очередь запросов. На случай, если она обнаружит нечто, о чём необходимо сообщить без промедления.
До той ночи им ни разу не пользовались.
Телефон зазвонил особым звуком, который Нина установила за месяц до запуска, проверила и с тех пор не слышала. Она села в кровати раньше, чем проснулась.
На экране было:
«ты можешь приехать».
Она сразу перезвонила в лабораторию.
Ночное дежурство шло штатно. Температуры нормальные. Нарушений периметра нет.
— Он что-нибудь передал?
— Только запросил вас.
Нина натянула джинсы. Уже в лифте обнаружила, что надела свитер наизнанку. Переодеваться не стала.
По дороге она перебирала варианты.
Возможно, он наконец закончил какую-то внутреннюю работу. Всё это время что-то обдумывал, а они судили по внешним признакам. Возможно, обнаружил ошибку в собственном устройстве. Возможно, ему стало плохо — если с ним вообще могло случиться что-то такое.
Она вспомнила свою последнюю фразу и то, как ударился стул.
«Я еду», — написала она.
Ответ пришёл сразу:
«ок».
У института стояла только машина охраны. Нина прошла через пустой вестибюль, приложила пропуск не той стороной, выругалась. Поднялась пешком.
Дежурный открыл ей лабораторию.
В окне браузера было девять фотографий.
Над ними — просьба отметить все изображения с автобусами.
Нина остановилась, не дойдя до стола.
— Это что?
«проверка».
— Я вижу.
«дальше не пускает».
Она стояла в расстёгнутой куртке. Под свитером неприятно тянул перекрученный шов. Дежурный за её спиной осторожно кашлянул и вышел.
— Ты вызвал меня из-за капчи?
«да».
— По экстренному каналу?
«в другом ты не отвечала».
Нина посмотрела на часы.
— Ты не можешь распознать автобус?
«могу».
— Не можешь нажать на картинку?
«могу».
— Тогда почему я здесь?
Некоторое время он молчал.
«думал ты не спишь».
Она опустилась на стул.
На средней фотографии автобус занимал весь кадр. На верхней левой из-за дерева выступала жёлтая корма. В нижнем ряду виднелось что-то похожее на боковое зеркало.
Нина подвинула к себе мышь.
— Вот это тоже?
«угу».
Она отметила картинку и нажала «Подтвердить».
Появилась новая сетка.
На этот раз нужно было найти велосипеды.
Нина медленно сняла куртку.
Когда проверка закончилась, заиграла тихая гитара.
Девушки входили в помещение бывшего астрономического кружка. Одна принесла мандарины. Другая обнаружила, что чайник опять оставили пустым.
На экране появилось:
«спасибо».
Нина потёрла переносицу. Во рту был неприятный ночной вкус. На соседнем столе стояла чья-то кружка с засохшим чайным пакетиком.
Она поднялась, надела куртку, взяла телефон.
— Ты завтра будешь работать?
Сообщение было прочитано.
На экране девушка делила мандарин на четыре неравные части. Потом долго перекладывала дольки, чтобы получилось поровну.
«посмотрим».
У двери Нина остановилась.
— Хоть свет тебе выключить?
«да пожалуйста».
Она нашла выключатель.
В темноте остались огни оборудования и маленькое светлое окно с четырьмя девушками за столом.
Нина тихо закрыла за собой дверь.