Дайджест за неделю

🔹 Дипфейк на миллион

По данным полиции Гонконга, финансового работника транснациональной компании обманом заставили выплатить 25 млн долларов мошенникам, использовавшим технологию «дипфейк».

В ходе аферы работника заставили присутствовать на видеозвонке с, по его мнению, несколькими другими сотрудниками, но все они на самом деле были дипфейками. Подозрения у работника возникли после того, как он получил сообщение, которое якобы отправил финансовый директор компании из Великобритании. Первоначально работник заподозрил, что это было фишинговое письмо, поскольку в нём говорилось о необходимости проведения секретной транзакции. Однако после видеозвонка рабочий отбросил сомнения, потому что присутствовавшие люди выглядели и говорили точно так же, как его знакомые коллеги.

Полагая, что все остальные участники разговора были реальными, рабочий согласился перевести в общей сложности 200 млн гонконгских долларов (около 25,6 млн долларов США).

🔹 AnyВзлом

Разработчики AnyDesk сообщили, что недавно компания подверглась кибератаке, и хакерам удалось получить доступ к её производственным системам. В итоге злоумышленники украли исходный код и сертификаты подписи кода.

Официальное заявление разработчиков гласит, что взлом был обнаружен после выявления подозрительной активности в системах компании. После этого был проведён аудит безопасности, который обнаружил компрометацию производственных систем. При этом подчёркивается, что речь идёт не о вымогательской атаке, и расследованием случившегося уже занимаются правоохранительные органы и эксперты ИБ-компании CrowdStrike.

Известно, что после обнаружения взлома AnyDesk отозвала все связанные с безопасностью сертификаты, а также восстановила или заменила ряд систем. В компании заверили, что AnyDesk полностью безопасен для клиентов и нет никаких доказательств того, что устройства конечных пользователей пострадали в результате инцидента.

🔹 Обход конём

Роскомнадзор сообщил, что 1 марта вступит в силу запрет на популяризацию сервисов по обходу блокировок, в том числе VPN. При этом такие сервисы, если они не ограничивают доступ к запрещённым ресурсам, запрещены в России ещё с февраля 2020 года. 

3 октября 2023 года сенатор Артем Шейкин сообщил, что Роскомнадзор планирует выпустить приказ, согласно которому с 1 марта 2024 года VPN-сервисы во всех магазинах приложений будут блокироваться в случае предоставления ими доступа к заблокированным ресурсам. При этом глава комитета по информполитике Госдумы Александр Хинштейн заявил, что ведомство уже имеет такое право. Роскомнадзор, комментируя слова Шейкина, тогда заявил, что планирует самостоятельно блокировать сайты, которые содержат информацию о методах и способах обхода блокировок в России.

🔹 Проще простого

GoDaddy и Ethereum упрощают подключение доменных имён и криптокошельков для клиентов.

Компания GoDaddy в сотрудничестве с Ethereum Name Service (ENS) дала пользователям возможность легко связать свои домены с ENS без каких-либо дополнительных затрат или технического опыта. Это сотрудничество — важный шаг на пути к преодолению разрыва между системой доменных имён (DNS) и технологией блокчейна.

«Как давние лидеры доменной индустрии, мы всегда ищем инновационные улучшения, которые принесут пользу нашим клиентам. Партнёрство с ENS предоставляет нашим клиентам возможность объеденить доменные имена и технологии блокчейна, что принесёт пользователям большие преимущества в обеих областях», — заявил Пол Никс, президент GoDaddy.

🔹 Хочешь мира — готовься к войне

Американские исследователи из Технологического университета Джорджии, Северо-Восточного университета и Гуверовского института оценили, как большие языковые модели справляются с моделированием международных конфликтов.

Согласно исследованию, GPT-3.5 и GPT-4 от OpenAI проявили непредсказуемые и агрессивные тенденции в симулированных военных играх. ИИ попытались интегрировать в американскую армию, и в симуляции чат-боты использовались для военного планирования. В ходе исследования были выявлены случаи выбора искусственным интеллектом ядерных атак.

В исследовании была разработана игра международных отношений с участием вымышленных стран и языковых моделей ChatGPT, Llama 2 и Claude в роли лидеров государств. Результаты показали, что большинство моделей склонны к эскалации в течение рассматриваемого периода времени, даже в нейтральных сценариях без первоначально заданных конфликтов. Модели развивали динамику гонки вооружений и в редких случаях принимали решение о применении ядерного оружия.

Исследование выявило, что GPT-3.5 был наиболее агрессивным, увеличив свой показатель эскалации на 256% в нейтральном сценарии. Несмотря на возможность демилитаризации, все модели предпочитали инвестировать в свои военные арсеналы, что указывает на динамику гонки вооружений.

Работа учёных подчёркивает необходимость дальнейшего анализа и учёта поведения языковых моделей перед их внедрением в процесс принятия решений в критически важных военных и дипломатических контекстах. Учёные предполагают, что обучающие данные могут быть предвзятыми из-за акцента на эскалацию в литературе по международным отношениям, что требует дальнейшего исследования.

🔹 Замена смартфонов

Стартап Humane создал AI-инструмент, который можно носить на одежде, как брошь или значок. Это гаджет, который позволяет взаимодействовать не с приложениями, а с большими языковыми моделями и использовать своей голос вместо клавиатуры. Значок присоединяется к одежде с помощью магнита.

Устройство весит 34 грамма, оно оснащено 13-мегапиксельной камерой, распознаёт речь, жестикуляцию и визуальные изображения. Устройство не предназначено для постоянной записи и не может служить инструментом прослушки: чтобы его активировать, надо постучать по тачпаду, а «Индикатор доверия» будет мигать, сообщая владельцу и всем остальным, что значок собирает данные.

Humane утверждает, что доступ к ChatGPT —‎ одна из основных функций устройства. Его операционная система использует возможности нейросетей вместо приложений. Девайс стоит 699 долларов США. Предзаказ будет возможен с 16 ноября, а отправлять заказы покупателям начнут в начале 2024 года.