OpenAI негласно предлагает продукты американским военным и органам национальной безопасности

OpenAI теряет руководителей и талантливых специалистов, но на этой неделе она сделала большой шаг вперед. Вернее, несколько. В рассылке за вторник Джереми рассказал о приеме на работу известного исследователя ИИ из Microsoft Себастьяна Бубека. Но сегодня мы расскажем о другом сотруднике, нанятом на этой неделе: Дейн Стаки объявил на X, что он присоединяется к OpenAI в качестве нового директора по информационной безопасности (CISO) после десяти лет работы в Palantir, где он работал в команде по информационной безопасности и в последнее время был начальником. 

Для многих в мире технологий любое упоминание о Palantir вызывает тревогу. Эта секретная компания, основанная Питером Тилем и работающая по военным контрактам, на протяжении многих лет привлекала пристальное внимание за свои технологии слежки и предиктивного полицейского контроля, за неоднозначный проект Project Maven, ставший причиной забастовки в Google, и за долгосрочный контракт с Иммиграционной и таможенной службой США (ICE) по отслеживанию нелегальных иммигрантов. 

Сам по себе прием Стаки на работу может быть просто новым приемом. Но это происходит в тот момент, когда OpenAI, судя по всему, переходит в мир оборонных и военных контрактов.  

Момент OpenAI в военной сфере

В январе OpenAI без лишнего шума удалила из своих правил формулировку, которая запрещала использовать ее продукты для «военных и боевых действий». Неделю спустя стало известно, что компания работает над программными проектами для Пентагона. Совсем недавно OpenAI заключила партнерство с Carahsoft, государственным подрядчиком, который помогает правительству покупать услуги у частных компаний быстро и с минимальным административным бременем, в надежде получить работу с Министерством обороны, сообщает Forbes.

Тем временем Кали Хейс из Fortune сообщила на этой неделе, что Министерство обороны заключило 83 действующих контракта с различными компаниями и организациями на работу в области генеративного ИИ, причем сумма каждого контракта варьируется от 4 до 60 миллионов долларов. OpenAI не была конкретно названа среди подрядчиков, но ее работа может быть скрыта благодаря партнерству с другими компаниями, которые указаны в качестве основного подрядчика.

Модель GPT-4 от OpenAI была в центре недавнего партнерства между Microsoft, Palantir и различными оборонными и разведывательными ведомствами США. Организации объединились в августе, чтобы обеспечить доступ к различным услугам ИИ и аналитики для американских оборонных и разведывательных ведомств в засекреченной среде.

Среди всех споров о том, как следует и как не следует использовать ИИ, использование его в военных целях — самый спорный. Многие, например бывший генеральный директор Google и видный деятель оборонной промышленности Эрик Шмидт, сравнивают появление ИИ с появлением ядерного оружия. Группы защиты предупреждали о рисках, особенно учитывая известную предвзятость моделей ИИ и их склонность к выдумыванию информации. Многие также размышляют о морали автономного оружия, которое может уносить жизни людей без какого-либо участия или руководства со стороны человека. 

Общая картина

Подобные исследования уже не раз становились серьезной проблемой для технологических компаний. В 2018 году тысячи сотрудников Google выступили против контракта с Пентагоном, известного как Project Maven, опасаясь, что созданные ими технологии будут использоваться в смертельно опасных целях, и утверждая, что они не подписывались на сотрудничество с военными. 

Хотя OpenAI утверждает, что по-прежнему запрещает использовать свои технологии для создания оружия, мы уже убедились, что это скользкая дорожка. Компания не только разрешает, но и добивается использования своих технологий в военных целях, которые она запрещала в прошлом году. Кроме того, существует множество способов использования моделей для прямой поддержки смертоносных военных операций, которые не предполагают их непосредственного применения в качестве оружия. 

Неизвестно, связаны ли массовые увольнения из OpenAI в этом году с его военными амбициями. Хотя некоторые ушедшие заявили о своей озабоченности безопасностью, большинство из них в своих публичных заявлениях об уходе ограничились лишь шаблонными фразами о поиске новых возможностей. Однако очевидно, что OpenAI 2024 года и обозримого будущего — это совсем другая компания, чем та, в которую люди пришли несколько лет назад.