Суперспособности ИИ в будущем могут оказаться фатальными и привести к гибели человечества.

Потеря рабочих мест в результате автоматизации

Автоматизация рабочих мест обычно рассматривается как одна из наиболее актуальных проблем, связанных с быстрым развитием искусственного интеллекта. Причем речь уже не идет о замене некоторых рабочих мест искусственным интеллектом. Главный вопрос - в какой степени ИИ вызовет потерю рабочих мест у людей.

Процесс автоматизации рабочих мест приведет к высокому уровню безработицы среди специалистов, не имеющих высоких технических навыков. Технологии искусственного интеллекта позволяют роботам становиться умнее и в некоторых областях заменить человека.

Вторжение в частную жизнь

Теперь, после интеграции искусственного интеллекта в наиболее важные технологические алгоритмы, стало довольно легко отслеживать и анализировать каждый шаг человека как онлайн, так и офлайн. Камеры стоят на каждом шагу, и с помощью продвинутой программы распознавания лиц, отслеживающие устройства точно определяют местонахождение человека.

Автономное оружие

Автономное оружие или "роботы-убийцы" - военные роботы, умеющие самостоятельно находить цель и действовать в соответствии с заранее запрограммированными инструкциями. Почти все технологически развитые страны мира разрабатывают автономных боевых роботов, готовых заменить солдат. Вместе с тем, обладание подобным оружием чревато многими опасностями. Что делать, если роботы выйдут из-под контроля? Кто будет нести ответственность за преступления в случае гибели людей?

Дипфейки

Иногда злоумышленники применяют deepfake-технологию, стремясь внушить человеку непонимание, страх или отвращение. Дипфейки могут использоваться для распространения дезинформации, создания ложного мнения о людях, а также содержать информацию, порочащую честь и достоинство, что способно нанести физический и психический вред человеку.

ИИ-терроризм

С одной стороны, искусственный интеллект вносит огромный вклад в обеспечение национальной безопасности страны, с другой – помогает эффективно совершать теракты. Террористические организации используют дроны для совершения атак и наблюдения за действиями солдат за границей. Армия, состоящая из тысяч беспилотников, запрограммированных на убийство, способна нанести врагу серьезный ущерб.

Усиление социально-экономического неравенства из-за предвзятости ИИ

Еще одним поводом для беспокойства является растущее социально-экономическое неравенство, вызванное потерей рабочих мест из-за внедрения технологий искусственного интеллекта. В настоящее время ИИ способен выполнять только прогнозируемые и повторяющиеся виды работ. Однако, в дальнейшем список возможных применений ИИ может быть расширен. В такой ситуации сотрудники, работающие на низких должностях, будут уволены с большей вероятностью, чем топ-менеджеры.

Манипуляции в социальных сетях

Манипуляции в социальных сетях позволяют довольно эффективно проводить целевой маркетинг, причем попасть под влияние алгоритмов, работающих автономно, довольно просто. Распространяя пропаганду среди определенных групп населения с использованием алгоритмов и персональных данных, ИИ может целенаправленно рассылать любую информацию без участия или фильтрации со стороны человека.

Сверхчеловеческий ИИ

С растущим развитием автономного военного оружия вполне вероятно через несколько лет появление агрессивного автономного робота, запрограммированного на убийство. Однако, если робот-убийца будет недостаточно эффективно распознавать людей или хакеры получат над ним контроль, катастрофы не избежать.

Предвзятость ИИ

Предвзятое отношение людей к религии, полу и национальности может интегрироваться в системы искусственного интеллекта. Единственный вариант решения проблемы - ручное удаление ненужных данных разработчиками ИИ.

Дестабилизация фондового рынка

По мнению ряда экспертов, появление алгоритмической торговли может привести к крупному финансовому краху и дестабилизации рынка. При алгоритмической торговле с высокой частотой происходят сделки значительной стоимости, что в конечном итоге может привести к экстремальной волатильности рынка.Подобный вид торговли не учитывает человеческую логику и эмоции и по-прежнему играет довольно важную роль на финансовых рынках.

securitylab