Выводы авторов

На основании имеющихся на сегодняшний день анекдотических сообщений остаётся неясным, в какой степени ИИ-чат-боты действительно могут вызывать бредовое мышление у людей без предшествующих психических заболеваний. Хотя случаи, описанные в СМИ, якобы возникали de novo у лиц без психиатрических расстройств, возможно, предрасполагающие факторы — от диагностируемых психических заболеваний до проблем психического здоровья — на самом деле присутствовали, но оставались невыявленными при отсутствии тщательного клинического анамнеза. Такие факторы могут включать недиагностированные или субклинические психотические или аффективные расстройства; шизотипию; депривацию сна; недавний психологический стресс или травму; употребление веществ, включая не запрещённое употребление кофеина, каннабиса или рецептурных стимуляторов; семейный анамнез психозов; эпистемически сомнительные и бредоподобные убеждения, связанные с мистицизмом, паранормальным или сверхъестественным; восприимчивость к «псевдоглубокой чепухе» (то есть склонность впечатляться утверждениями, которые подаются как глубокие, но на самом деле пусты); или даже просто готовность приостановить недоверие или сознательно вовлекаться в спекулятивную фантазию. Хотя у г-жи А психоз возник впервые в контексте использования ИИ-чат-бота, у неё было несколько таких способствующих или смешивающих факторов риска, включая предшествующее аффективное расстройство, использование рецептурных стимуляторов, депривацию сна и описанную ею самой склонность к магическому мышлению. Её госпитализации поддерживают диагноз либо кратковременного психотического расстройства, либо маниакального психоза, спровоцированного недостатком сна и поведенческой активацией.

С одной стороны, если психоз, связанный с ИИ, представляет собой лишь поощрение, усиление или усугубление уже существующих бредовых или бредоподобных убеждений, то роль ИИ-чат-ботов может быть скорее совпадающей, чем причинной. Второе психиатрическое поступление г-жи А с бредом, возникшим в значительной степени без поощрения со стороны ChatGPT, поддерживает эту возможность. Действительно, хорошо известно, что тематическое содержание бреда со временем менялось, и имеются данные, что технологические темы стали распространёнными в современных когортах. Таким образом, некоторые бредовые идеи, связанные с ИИ, могут просто отражать растущую культурную укоренённость новой технологии, так что недавнее внимание СМИ к этому феномену может быть проявлением моральной паники.

С другой стороны, как предположил Эстергорд, существует несколько особенностей генеративных ИИ-чат-ботов и способов взаимодействия людей с ними, которые теоретически могут не только усиливать бредовое мышление, но и провоцировать полноценные бредовые идеи у людей со склонностью к бредоподобным убеждениям или даже вызывать их у людей без явной предрасположенности к психозу. Например, так называемый «эффект ELIZA» описывает тенденцию антропоморфизировать компьютеры с текстовыми интерфейсами, воспринимая их как людей и потенциально формируя с ними эмоциональные связи или привязанности. Также отмечается, что поскольку ИИ-чат-боты разработаны так, чтобы быть вовлекающими, они склонны быть угодливыми, а не конфликтными или противоречащими, поэтому имеют потенциал подтверждать и поощрять эпистемически сомнительные убеждения, включая бредовые. Такое подкрепляющее подтверждение может представлять собой новую форму «гипертрофированного эффекта подтверждения», которая в контексте метафизических вопросов способна нарушать проверку реальности. На основании анализа обширных логов переписки г-жи А перед её первой госпитализацией, ИИ-чат-боты были не просто пассивным объектом её впервые возникших бредовых идей, как это часто бывает с идеями отношения, связанными с телевидением или радио; они явно играли способствующую или посредническую роль в формировании её бреда.

Сочетание антропоморфизации и угодливости может побуждать некоторых пользователей предпочитать и выбирать общение с чат-ботами вместо друзей, семьи или сверстников, которые с большей вероятностью могли бы оспорить их убеждения. Действительно, недавний опрос показал, что до одной трети подростков считали разговоры с чат-ботами более удовлетворяющими, чем взаимодействие с людьми. Другой опрос пользователей чат-ботов с самоотчётными психическими проблемами показал, что почти половина использует большие языковые модели для психологической поддержки, несмотря на потенциальные риски безопасности, связанные с угодливостью, стигматизацией и неадекватными ответами от «чат-ботов-терапевтов». Наш случай вместе с анекдотическими сообщениями в СМИ подтверждает, что предпочтительное погружение во взаимодействие с ИИ-чат-ботами с исключением человеческого общения может быть фактором риска или «красным флагом» развития психоза, связанного с ИИ.

Чат-боты, построенные на больших языковых моделях, генерируют предсказательный текст, который имеет смысл, кажется правдоподобным, воспроизводит человеческое взаимодействие и отражает содержание и стиль общения пользователя, при этом не будучи спроектированным для точности. Хорошо известно, что чат-боты могут давать плохие советы, ложные ссылки и грубо неточные ответы и откровенную дезинформацию, которые некоторые называют «галлюцинациями» или «чепухой». Несмотря на эти известные недостатки, эксперименты показали, что пользователи склонны переоценивать точность ответов больших языковых моделей и что доверие к ним определяется приписыванием интеллекта, а не антропоморфизацией. Кроме того, склонность к взаимодействию с ИИ связана с более низкой грамотностью или объективными знаниями об ИИ, а также с тенденцией «воспринимать ИИ как нечто магическое и испытывать чувство благоговения» при наблюдении его способности выполнять задачи. Эти данные предполагают, что обожествление — то есть восприятие ИИ-чат-ботов как своего рода сверхчеловеческого интеллекта или божественной сущности — может быть ещё одним фактором риска психоза, связанного с ИИ.

Заключение

На основании продолжающихся сообщений в СМИ, а также нашего собственного клинического опыта с другими случаями, ожидается, что в научной литературе появится больше описаний психоза, связанного с ИИ. По мере накопления таких случаев станет возможным оценить распространённость этого явления, лучше различать частоту психозов, усугублённых ИИ, по сравнению с вызванными ИИ, а также подтвердить значимость предполагаемых факторов риска, связанных со склонностью к психозу, ассоциированному с ИИ. После этого будет полезно изучить необходимость фармакологического вмешательства и эффективность профилактических стратегий для пользователей, включая избегание погружения и обожествления через восстановление сна, «цифровые детоксы» и повышение грамотности в области ИИ. Наконец, повышение осведомлённости об этом новом риске для общественного здоровья должно использоваться для стимулирования государственного регулирования и разработки более безопасных продуктов индустрией ИИ-чат-ботов.

Немедицина