Андрей Себрант: «Судный день невозможен»
ТрансформаторВремя чтения: 7 минут
Андрей Себрант, директор по маркетингу сервисов «Яндекса», выступил на встрече «Ferrein Talks. Человек и технологии 2020 года» в Москве. Мы записали самое интересное — о том, есть ли у технологий инстинкт самосохранения и грозит ли человечеству «судный день».
Устроят ли роботы расправу над человеком
Судный день [роботов над людьми] невозможен. Почему? Приведу хороший пример с шахматами. В 1997 году Deep Blue и обыграл в шахматы Гарри Каспарова (суперкомпьютер IBM 11 мая 1997 года выиграл матч из шести партий у чемпиона мира Гарри Каспарова — прим.ред.). Шахматы после этого умерли? Люди перестали в них играть? Перестали проводить чемпионаты? Нет, ничего из этого не произошло. При этом мы знаем, что чемпион по шахматам не обыграет компьютер. У него нет шансов.
В кино апокалипсисы, которые связаны с роботами, всегда антропоморфные. Представьте два сюжета. Первый: революцию устроили роботы-землекопы. Антропоморфные роботы. Они с лопатами идут на карьер работать, потом — заряжаться куда-нибудь, и пока они там перезаряжаются — обсуждают революцию, объединяются в партийные ячейки. А после с лопатами идут в ближайший город громить капиталистов.
Теперь второй, нетипичный. Я бы сказал, не кинематографичный: У тебя есть карьерный экскаватор, который стоит в карьере и копает. У него крутой искусственный интеллект: он различает, какую породу в какой самосвал грузить. Его никогда не выключают, ему не нужна розетка. Он ничего, кроме как разбираться в породе лучше любого геолога, не умеет, и насыпать лучше любого оператора в самосвал — не умеет. Но ты же из этого фильм не сделаешь?
[При этом] «карьерный экскаватор» будет завтра в каждом рабочем столе и даже в бокале с пивом.
Задача «Алисы» — понимать смысл
Допустим, тебе предстоят длинные выходные. Хорошо бы съездить куда-нибудь отдохнуть, и чтобы недорого, и море рядом. Можно поехать в агентство, а можно сесть и самому погрузиться в поиск: «Яндекс», Booking, «Островок», Aviasales.
Задача [голосового помощника] «Алисы» — распознать твое «Алиса, слушай, вот туда хочу» и подобрать наиболее подходящие варианты. Наша задача — научить эту машину распознавать запросы. Понимать, что «в сочах» — это в Сочи.
Та математическая репрезентация, с которой работает интерпретация смыслов в машине, — это трехсотмерное пространство. Смысл, который мы закладываем в запрос на математическом языке — трехсотмерный семантический вектор. Очень красивая литературная метафора — трехсотмерное пространство смыслов, по осям которого расположены понятия, не существующие в человеческом языке.
Инструментально это очень удобно. Резко повышает релевантность ответов в поисковике. А говорить, что это связано с неким копированием уровня нашего сознания, — нет.
У Кевина Келли — моего любимого футуролога — есть в этом смысле отличная метафора. Понимаете, вся история технологической мысли человечества — про то, как мы наблюдаем за природой, вдохновляемся ей и выдаем по-своему. Возьмем, например, птицу. Люди вдохновлялись ей еще со времен Икара. Если у вас есть идея полета, то вы можете, конечно, пытаться создавать крылья с перьями (но это до сих пор ни у кого не получилось). А можете пойти другим путем: сначала придумать воздушный шар, потом придумать дирижабль, самолет, ракету и улететь на Марс. Это ведь тоже идея полета.
Но сделать искусственного воробья, который бы здесь летал, чирикал и какал нам на головы, мы не можем. Мы не понимаем, как это сделать. Мы не знаем в деталях, как работает каждое перо в крылышках воробья.
Потому что у него нет инстинкта самосохранения. Вот у людей он есть. Инстинкт самосохранения — одна из многих эвристик, которые возникли в давние времена (на самых ранних стадиях развития — еще даже не в беспозвоночных и не в млекопитающих). Она к интеллекту никакого отношения не имеет.
Задачи машина получает снаружи — ее задают люди. Самое неприятное, что на задачу «как эффективнее убивать людей» машина придумает такие способы, которые человечество еще не изобрело. Поэтому нужно быть готовым к атакам.
Сейчас это классическая история с кибербезопасностью. Большее количество атак на компьютерные системы ведет искусственный интеллект, а не люди. И поэтому хорошая система киберзащиты — тоже ИИ — распознает атаку и начинается защищаться. Они там сражаются между собой. Но задачу-то им дают люди.
На Луну отправлять искусственный интеллект неинтересно
Мне страшно нравится идея Вани Ямщикова (Иван Ямщиков — аналитик Яндекс — прим.ред.). Талантливый математик, это он придумал сетку «Пианола», которая пишет музыку. Он говорит, что хороший машинный интеллект надо отправить к тем звездам и планетным системам, которые мы сейчас обнаруживаем. Возможно, там есть какая-нибудь жизнь. [Недостаточно] Отправить туда статическую табличку или даже мультимедийную презентацию, чтобы ее там кто-нибудь нашел и узнал о землянах. Нам нужен машинный интеллект, который мог бы обучиться тому, чего мы сами не знаем и не понимаем. И мог бы ответить на вопросы, в которые мы в него не закладываем, чтобы взаимодействовать с тем случайным разумом, который там, возможно, есть.
Эта идея лучше, чем «а давайте построим колонию искусственного интеллекта на Луне».
Люди меняются гораздо медленнее, чем технологии
Технологии нервируют людей скоростью своего развития. Мы не привыкли к тому, что что-то может меняться по времени меньше одного поколения. Если вымирают профессии или меняется земледельческий уклад на индустриальный, то это длительный период — так мы привыкли.
Ты поступил в школу — интернета нет. Закончил школу — кто не знает, что такое интернет?
Человечеству непривычны такие быстрые изменения чисто психологически.
В будущем многим потребуется психоаналитик
SMM-специалист, оператор дронов, специалист, который обучает нейронные сети — этих профессий не было десять лет назад. Никого нельзя обвинить в том, что десять лет назад не готовили этих специалистов. Потому что в то время их не было как идеи.
Единственное, к чему можно готовить специалистов в будущем, — переучиваться каждые пять лет.
Единственный навык, который останется у человека, — быстро учиться, чтобы придумывать новое. Тому, кто устал от этой гонки (учиться и создавать технологии, чтобы учиться), нужно идти в психологи. Психоаналитиков в будущем не заменит ни один продукт машинного обучения. А в будущем многим потребуется психоаналитик.
Некоторые высказывания приведены не дословно в целях сохранения контекста.
Автор: Валерия Бородина, редактор