Генеративный ИИ — это не просто инструмент

Фраза «ИИ неизбежен» в последние месяцы стала навязчивой — она звучит в рабочих встречах, мелькает в корпоративной переписке, повторяется на платформах вроде Bluesky, LinkedIn и Discord. Её используют как энтузиасты, так и критики. В первом случае — как лозунг технологического прогресса, во втором — как знак фатализма. Но, как напоминала философ Наташа Бедингфилд, «сегодня начинается книга, а остальное пока не написано». Иными словами, ничего не предрешено.

Наряду с этим в профессиональной среде получила распространение и другая, более утилитарная формулировка: «ИИ — это просто инструмент. Как любой другой, он может быть использован во благо или во вред». В индустрии разработки игр, где выбор инструментов — от игровых движков до процедурных генераторов — сам по себе становится предметом публичных дебатов, такая нейтральная позиция кажется естественной, даже конструктивной. Она позволяет анализировать технологии на их собственных условиях, без излишней драматизации.

Однако идея о том, что генеративный ИИ — это «просто инструмент», глубоко ошибочна. Эта фраза звучит как риторический приём, аналогичный аргументации противников контроля за огнестрельным оружием в США: «оружие не убивает людей, люди убивают людей». Это попытка устранить ответственность, сосредоточив внимание не на форме и цели инструмента, а лишь на его потенциальном применении.

Форма инструмента определяет его функцию

Возьмём два привычных предмета американского быта — молоток с гвоздодёром и пистолет. Их часто называют инструментами, но устройство каждого из них отражает вполне определённые цели.

Молоток приспособлен для передачи кинетической энергии от руки к твёрдой поверхности. Его форма и материалы — результат оптимизации под конкретную задачу. Разновидности молотков, такие как шаровые или слесарные, иллюстрируют, как форма инструмента адаптируется под разные нужды. Да, молотком можно нанести вред, но его конструкция делает это неэффективным — как показывают данные ФБР, оружием убийства он становится значительно реже, чем ножи или огнестрельное оружие.

Пистолет, в отличие от молотка, спроектирован для поражения живой цели. Его компоненты служат одной функции: передать усилие от нажатия на спусковой крючок к капсюлю патрона, что приводит к выстрелу. Хотя в теории пистолет можно использовать как ударный инструмент, его форма не предназначена для этого. Это устройство, сконструированное с минимальным числом альтернативных применений.

Ни молоток, ни пистолет не являются «просто инструментами». Это объекты, чья форма определяет их назначение. А значит, их можно и нужно оценивать через призму безопасности, целесообразности и необходимости регулирования. Противники регулирования оружия используют нейтральную риторику именно потому, что им сложно опровергнуть статистическую взаимосвязь между доступностью пистолетов и уровнем насилия.

Сторонники генеративного ИИ всё чаще прибегают к тем же аргументам. Они стараются отвести внимание от реальных последствий использования технологий, настаивая на обсуждении лишь потенциальных применений.

Цель генеративного ИИ — симуляция и обман

Генеративный ИИ — это инструмент обмана. Несмотря на то, что он рекламируется как средство повышения эффективности, его наиболее заметные и повсеместные применения — имитация и подделка. Студенты используют его для списывания. Мошенники — для звонков с фальшивыми голосами. Государственные отчёты уже цитируют несуществующие исследования, вероятно сгенерированные ИИ. Популярные YouTube-каналы публикуют фальшивые трейлеры. Apple показывает рекламу, где пользователи с помощью ИИ обманывают близких. Activision Blizzard — продвигает игры, которых не существует.

При этом сама игровая индустрия изначально строится на симуляции. Игры, кино, литература, магические шоу — все они основаны на желании быть обманутым в условиях осознанного соглашения. Мы используем эффекты, звук, анимации и повествование, чтобы создать убедительные виртуальные миры. Генеративный ИИ может помочь в этом, если его использование ограничено созданием иллюзий внутри «магического круга» — в рамках художественной реальности. Но когда обман выходит за пределы художественного вымысла, он начинает разрушать общее представление о реальности.

Именно здесь проходит критическая граница. Ложь во имя искусства может объединять людей. Ложь в реальном мире — разрушает общее доверие.

Не случайно в одном из эпизодов сериала Andor персонаж Мон Мотма предупреждает о том, чем грозит отказ от объективной реальности: «Когда правда уходит от нас, когда мы позволяем ей исчезнуть, когда она вырывается из наших рук — мы становимся уязвимыми перед теми, кто кричит громче всех».

Генеративный ИИ не просто инструмент. Это технология, чья форма, цели и последствия требуют осмысленного регулирования. Без этого мы рискуем утратить не только контроль над технологиями, но и саму реальность.