ПОСЛЕЗАВТРА

Ученые изучили пределы эмпатии чат-ботов

Чат-боты вроде Alexa и Siri умеют отвечать на вопросы пользователя, давать рекомендации и даже проявлять эмпатию. Однако согласно результатам исследования, проведенного специалистами Корнеллского университета, Инженерного колледжа Олина и Стэнфордского университета, чат-боты хуже человека справляются с интерпретацией и изучением опыта пользователя. Для проверки эмпатии искусственного интеллекта ученые изучили многочисленные беседы чат-ботов с людьми. Анализ переписок показал, что машина зачастую выносит оценочные суждения касаемо определенных идентичностей человека, таких как его сексуальная ориентация или вероисповедание, и даже способна выражать одобрение таким опасным идеологиям, как нацизм.

 Подобное поведение, по мнению ученых, можно объяснить тем, что чат-боты могут перенимать у людей некоторые предубежденности и стереотипы. Дело в том, что в ходе обучения больших языковых моделей (LLM), на основе которых работают чат-боты, первые потребляют гигантские массивы текста, написанного людьми. Вследствие этого LLM могут быть подвержены тем же предубеждениям, что и авторы прочитанных ими текстов. Исправить ситуацию может грамотное развитие автоматизированной эмпатии чат-ботов, которая может оказать весьма благотворное влияние в таких сферах, как образование и здравоохранение.