Сотрудники GOOGLE протестуют против Пентагона
Ruslan Gafarov
Отсутствие иерархий позволяет принимать коллективные решения и влиять на общую стратегию. Каждый, кто не согласен с действиями компании, может высказаться и изменить ситуацию.
Например, сотрудники Google высказались против участия корпорации в разработке искусственного интеллекта для боевых дронов США. The New York Times осветила эту тему 4 апреля, прочитать на английском можно здесь. Тем, кто не читает на английском, предлагаю перевод статьи.
«Бизнес войны»: сотрудники Google протестуют против Пентагона
ВАШИНГТОН. Тысячи сотрудников Google, включая десятки старших инженеров, подписали письмо, в котором они протестуют против участия компании в программе Пентагона, использующей искусственный интеллект для интерпретации видеоизображений и в перспективе улучшающей нацеленность ударов боевых дронов.
Письмо, которое распространяется внутри Google и уже собрало более 3100 подписей, отражает культурное столкновение между Силиконовой долиной и федеральным правительством. Конфликт, вероятно, будет усиливаться, потому что новейший искусственный интеллект все чаще используется в военных целях.
«Мы считаем, что компания Google не должна участвовать в войне», - говорится в письме, адресованном исполнительному директору компании Сундару Пичаи. Сотрудники компании просят, чтобы Google прекратила участие в проекте Maven, закрыла пилотную программу с Пентагоном, и объявила о том, что никогда не будет строить технологию ведения войны.
Такая идеалистическая позиция, хотя и не разделяется всеми сотрудниками Google, но естественно подходит компании, чей девиз: «Не будь злым». Однако это чуждо массивной оборонной промышленности Вашингтона и, конечно, самому Пентагону. Министр обороны Джим Маттис часто говорил, что главная цель - увеличить «летальность» военных США.
С самого начала компания Google поощряла намерение сотрудников высказываться по вопросам, связанным с делами корпорации. Руководители и рядовые сотрудники на специальных встречах обсуждали продукты и политику компании.
На одном из недавних общих собраний сотрудники подняли вопрос о причастности Google к проекту Maven. Диана Грин, возглавляющая бизнес облачной инфраструктуры Google, защищала сделку и стремилась успокоить волнующихся сотрудников. Представитель компании сказал, что большинство подписей на письмо протеста были собраны до того, как компания получила возможность объяснить ситуацию.
Впоследствии компания описала свою работу над проектом Maven как «ненасильственную» по своей природе, хотя видеоанализ Пентагона обычно используется в противоповстанческих и контртеррористических операциях, а публикации Министерства обороны дают понять, что проект поддерживает эти операции. Обе структуры: Google и Пентагон заявили: продукция компании не будет создавать автономную систему оружия с использованием искусственного интеллекта, которая может стрелять без человека-оператора.
Но улучшенный анализ беспилотного видео может быть использован для отбора человеческих целей при забастовках, а также более четкого определения гражданских лиц для уменьшения случайного убийства невинных людей
Не обращаясь напрямую к письму, г-ну Пичаю заявил, что «любое военное использование машинного обучения, естественно, вызывает веские опасения». Он добавил: «Мы активно участвуем во всестороннем обсуждении этого важного вопроса». Компания назвала такие обмены «чрезвычайно важными и полезными». Хотя некоторые сотрудники Google, знакомые с письмом, говорили об этом только при условии анонимности, заявив, что они обеспокоены возмездием.
В заявлении говорится, что часть компании Project Maven была «специально задействована для целей, не связанных с наступлением», хотя официальные лица отказались предоставить соответствующие данные. Департамент обороны сказал, что, поскольку Google является субподрядчиком проекта Maven первому подрядчику, компании ECS Federal, он не может предоставить ни сумму, ни условия контракта Google. Представители ECS Federal не ответили на запросы.
В Google утверждают, что Пентагон использует «программное обеспечение для распознавания объектов с открытым исходным кодом, доступное любому клиенту Google Cloud» и основанное на неклассифицированных данных. «Эта технология используется для обзора, и предназначена для спасения жизней и спасения людей от необходимости выполнять очень утомительную работу», - сказали в компании.
В одном из интервью в ноябре г-н Шмидт, бывший исполнительный председатель Google, который выступает в консультативном органе Пентагона в совете по инновациям в области обороны, признал «общее беспокойство в техническом сообществе военно-промышленным комплексом, использующим их материалы, чтобы убивать людей». Он предположил, что военные «использовали эту технологию, чтобы помочь сохранить безопасность страны».
Беспокойство по поводу военных контрактов среди небольшой части сотрудников Google может не стать серьезным препятствием для роста компании. Но в сфере исследований в области искусственного интеллекта Google занимается интенсивной конкуренцией с другими техническими компаниями, в которые стремятся попасть самые талантливые люди. Поэтому у рекрутеров могут возникнуть трудности, если некоторых кандидатов отпугнет защита Google.
В то время как Google защищает контракты от внутреннего инакомыслия, конкуренты не стесняются разглашать собственную работу над оборонительными проектами. Amazon рекламирует свою работу по распознаванию изображений с Министерством обороны, а облачная технология Microsoft выиграла контракт на обработку секретной информации для каждой ветви военных и оборонных ведомств.
Нынешний спор, о котором первый сообщил портал Gizmodo, сосредоточен на проекте Maven, который начался в прошлом году в качестве экспериментальной программы, цель которой - найти способы ускорить военное применение последних технологий ИИ. По словам пресс-секретаря Пентагона, ожидается, что проект будет стоить менее 70 миллионов долларов в первый год своего существования. Но подписавшие письмо в Google явно надеются препятствовать тому, чтобы компания вступила в другие гораздо более крупные контракты Пентагона, которые будут создаваться по мере роста обороноспособности искусственного интеллекта.
Ожидается, что Google будет конкурировать с другими техническими гигантами, включая Amazon и Microsoft, за многолетний многомиллиардный контракт на предоставление облачных сервисов в Министерство обороны. Джон Гибсон, главный управляющий отдела департамента, в прошлом месяце сказал, что программа закупок облачной инфраструктуры совместного предприятия была частично разработана для «повышения летальности и готовности», подчеркивая сложность отделения программного обеспечения, облачных и связанных с ними услуг от фактического ведения войны.
Письмо протеста сотрудников, которое было распространено на внутренней системе связи в течение нескольких недель, утверждает, что охват военной работы может иметь неприятные последствия, отчуждая клиентов и потенциальных новичков.
«Этот план наносит непоправимый урон бренду Google и его способности конкурировать за таланты», - говорится в письме. «На фоне растущих опасений по поводу предвзятого и вооруженного ИИ Google уже изо всех сил пытается сохранить доверие общественности». Это говорит о том, что Google рискует оказаться в рядах крупных оборонных подрядчиков, таких как Raytheon, General Dynamics и компании Palantir с большими данными.
«Аргумент, что другие фирмы, такие как Microsoft и Amazon, также участвуют в подобных проектах, не делает проект менее опасным для Google», - говорится в письме. «Уникальная история Google, ее девиз« Не будь злом », и его непосредственная досягаемость в жизни миллиардов пользователей - это то, что отличает корпорацию от конкурентов».
Как другие бывшие выскочки, которые стали гигантами Силиконовой долины, Google вынужден противостоять идеализму, который руководил компанией в первые годы ее существования. Facebook начал с высокой миссии по подключению людей по всему миру, но недавно он был под огнем за то, что стал проводником поддельных новостей и использовался Россией для влияния на выборы в 2016 году и посеял инакомыслие среди американских избирателей.
Пол Шарр, бывший чиновник Пентагона и автор «Army of None», в своей будущей книге об использовании искусственного интеллекта для создания автономного оружия, сказал, что столкновение внутри Google было неизбежным, учитывая историю компании и стремительный спрос на ИИ в армии.
«Среди технического сообщества есть сильный либертарианский дух и настороженность в отношении использования технологий правительством, - сказал г-н Шарр, старший научный сотрудник Центра новой американской безопасности в Вашингтоне. «Теперь ИИ внезапно и довольно быстро выходит из исследовательской лаборатории и в реальную жизнь».
Оригинал текста на английском можно прочитать здесь -> https://www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html