Некоторые советы для журналистов, которые пишут об ИИ
By Ilya Uk
Очередной (вольный) перевод статьи Джулиана Тогелиуса, который является доцентом кафедры информатики и инженерии в Инженерной школе Тэндона Нью-Йоркского университета (New York University Tandon School of Engineering).
***
Уважаемые журналисты!
Я бы хотел дать вам несколько советов о том, как лучше и правдивей писать об искусственном интеллекте. Причина, по которой я пишу эту статью, заключается в том, что в газетах и журналах (для широкого круга читателей) публикуется очень много очень плохих статей об ИИ. Некоторые из них — полная бессмыслица, граничащая с дезинформацией, в других фиксируется суть происходящего, но и они пронизаны недоразумениями. Нет, я не буду приводить примеры, но любой, кто работает в ИИ и следит за новостями, может предоставить много ссылок на подобные материалы. Конечно, есть много хороших статей об ИИ, но соотношение хороших и плохих публикаций, безусловно, может быть улучшено.
Во-первых, я понимаю причины того, почему так происходит. Вы пишете о чрезвычайно изменчивой среде, наполненной жаргоном и восторженными людьми с их великим видением. Учитывая всё это волнение, есть много того, о чем можно написать, но вы не знаете много (или даже не знаете ничего) об этой отрасли. Вы, наверное, также мало знаете об ИИ, как я знаю, например, о кожевенном заводе. Но там, где кожевенный завод развивается очень медленно и включает в себя очень конкретные материалы и механики производства, искусственный интеллект развивается с головокружительной скоростью. Есть ощущение, что вам нужно писать о последних событиях сейчас, пока они не будут вытеснены более свежими новостями, но трудно понять, где и как расшифровывать странные вещи, которые говорят исследователи ИИ. И, конечно, вы хотите написать что-то читаемое и интерактивное, но у вас так мало времени. Всё это создаёт для вас нелегкую ситуацию.
Итак, вот несколько вещей, которые следует иметь в виду, и некоторые конкретные рекомендации, для более критической и более качественной журналистике по ИИ. Некоторые из них основаны на моем опыте общения с журналистами с различным техническим мастерством и с разной склонностью покупать историю, которую я пытался им продать. Да, мы все пытаемся что-то продать, даже мы, кумиры в башне из слоновой кости, пытаемся продать вам что-то. Подробнее об этом ниже.
Имейте в виду: ИИ — очень большая и очень разнообразная отрасль знаний, с точки зрения используемых тем и методов. (Правда, это не так разнообразно, как должно быть в некоторых других смыслах.) На главных конференциях по искусственному интеллекту (таких как IJCAI, AAAI, ICML и NIPS) есть тысячи участников, и большинство из них понимают лишь небольшую часть того, что происходит на конференции. Когда я попадаю на одну из этих конференций, я, возможно, отслеживаю 20% переговоров и получаю что-то из них. Хотя я возможно, немного подставляю себя, скажу, что нельзя найти того, кто был бы в курсе всех областей, таких как прохождение ограничивающих условий, глубокое обучение и стохастический поиск.
Рекомендация: Не предполагайте, что исследователи, с которыми вы говорите, знают всё, «что происходит прямо сейчас в ИИ». Что ещё более важно, если кто-то говорит, что он знает всё, что происходит прямо сейчас в ИИ, предположите, что он знает только небольшую часть всей большой картины. Дважды перепроверяйте информацию с кем-то, работающим в другом разделе ИИ.
Имейте в виду: Нет такой вещи, как «искусственный интеллект». ИИ представляет собой набор методов и идей для создания программного обеспечения, которое может делать некоторые вещи, которые люди могут делать с помощью своих мозгов. Исследователи и разработчики создают новые методы ИИ (и используют существующие методы ИИ) для создания программного обеспечения (а иногда и аппаратного обеспечения), которое может сделать что-то впечатляющее, например, играть в игры или рисовать фотографии кошек. Однако вы можете смело предположить, что одна и та же система не может и играть в игры, и рисовать фотографии кошек. На самом деле, ни одна система на основе ИИ, о которой я когда-либо слышал, не может выполнять больше, чем несколько (небольшое число) разных задач. Даже когда одни и те же исследователи разрабатывают системы для разных задач, основанных на одной и той же идее, они будут строить разные программные системы. Когда журналисты пишут, что “ИИ от компании Х может управлять автомобилем и он также может писать стихотворение”, они скрывают тот факт, что это разные системы. Такая новость похожа на описание машины с общим интеллектом. Но это не так.
Рекомендация: Не используйте термин «ИИ» или «искусственный интеллект». Всегда спрашивайте, каковы ограничения той или иной системы. Спросите, действительно ли одна и та же нейронная сеть может играть в Космических захватчиков (Space Invaders) и месть Монтесумы (Montezuma’s Revenge) (подсказка: нет, не может). (Вопросу создания универсального ИИ посвящена книжка «Верховный алгоритм» — прим. перев.)
Имейте в виду: ИИ — это старая область, но некоторое идеи в ней действительно новы.Нынешний, удивительный, но слегка раздутый, взлёт глубокого обучения уходит своими корнями в исследования нейронных сетей 1980-х и 1990-х годов, а эти исследования, в свою очередь, опираются на идеи и эксперименты 40-х годов XX века. Во многих случаях самые современные исследования состоят из незначительных вариаций и усовершенствований методов, которые были разработаны до того, как родились исследователи, делающие эти достижения. Метод обратного распространения ошибки, обеспечивающий большую часть сегодняшнего глубокого обучения, был независимо изобретен несколько десятилетий назад несколькими людьми. Когда компьютер IBM Deep Blue победил Гарри Каспарова и показал, что компьютеры могут играть в шахматы лучше, чем люди, в основе программного обеспечения был заложен алгоритм Minimax, впервые реализованный Аланом Тьюрингом в 1940-х годах. Тьюринг, один из отцов как искусственного интеллекта, так и широкой области компьютерных наук, также написал статью «Вычислительные машины и разум», которая была опубликована в 1950 году. Данная работа наиболее известна тем, что описывает то, что сейчас называется Тестом Тьюринга. Она также содержит семена многих ключевых идей об искусственном интеллекте.
Рекомендация: Прочитайте работу «Вычислительные машины и разум». Её удивительно легко и приятно читать. Поразительно, сколько ключевых идей об искусственном интеллекте были уже тогда, хотя и в зачаточной форме. Когда вы пишете рассказы о захватывающих новых разработках, проконсультируйтесь с исследователем ИИ, который является пожилым или, по крайней мере, среднего возраста. Кто-то занимался исследованиями ИИ ещё до того, как это стало мейнстримом, или, возможно, еще до того, как это было не круто (в ИИ были несколько циклов роста и падения интереса — прим. перев.), и поэтому видел полный цикл шумихи вокруг ИИ. Скорее всего, этот человек сможет рассказать вам о том, для какой старой идеи этот новый прогресс является (незначительным?) улучшением.
Имейте в виду: Исследователям всегда есть, что продать. Очевидно, что те, кто работает в каком-то стартапе, стремятся повысить оценку своей компании и свои шансы на инвестиции или приобретение. Те, кто работает в академических кругах, ищут приглашения на встречи, цитирования, продвижения по службе и т.д. Те, кто работает в крупной компании, захотят создать интерес к некоторому продукту, который может или не может быть связан с их фактическими результатами.
Рекомендация: Не верьте шумихе. Найдите другого исследователя, к которому люди, о которых вы пишете, вас не отправляли и спросите его мнение.
Имейте в виду: Большая часть «искусственного интеллекта» — это на самом деле человеческая изобретательность. Существует причина, по которой исследователи и разработчики специализируются на применении ИИ в конкретных областях, таких как робототехника, игры или перевод. При создании системы для решения проблемы большое количество знаний о фактической проблеме («предметной области») включено в систему. Это может сыграть роль в предоставлении специальных вводных данных, использования специально подготовленных данных для обучения, вручную созданных компонентов и даже переформулировки проблемы, чтобы сделать её проще.
Рекомендация: Хороший способ понять, какая часть «решения ИИ» является автоматической, а какая заведомо закодированным знанием о предметной области, — это спросить о том, как система будет работать с несколько по-другому поставленной задачей.
На этом бы я и закончил, поскольку этот текст, вероятно, уже звучит слишком сердито. Послушайте, я не сердитый, я даже не старый. И я не хочу создавать впечатление, что в настоящее время в отрасли ИИ не так много впечатляющего прогресса. На самом деле, есть достаточно много реальных успехов, чтобы сообщить о том, что нам не нужно создавать отчетность с помощью “производных” исследований, которые продаются, как новые. Давайте все будем честными, критичными и точными. Договорились?