ПОСЛЕЗАВТРА

Обучение ИИ повлияло на поведение людей

Научный эксперимент, проведенный в Университете Вашингтона в Сент-Луисе (США), выявил неожиданный психологический феномен. Оказалось, что в процессе онлайн-общения люди заметно меняют свое поведение, если считают, что результаты этого общения будут использоваться для обучения искусственного интеллекта (ИИ). Так, во время онлайн торгов некоторые участники, которым сообщили об обучении ИИ, меняли свое поведение и давали более справедливые предложения во время переговоров.

 «Похоже, что у участников присутствовала мотивация обучать ИИ справедливости, что обнадеживает, однако другие люди могут иметь иные намерения. Разработчикам следует знать, что люди намеренно изменят свое поведение, когда узнают, что это будет использоваться для обучения ИИ», — объясняет Лорен Трейман, ведущий автор исследования.

 Всего исследователи провели пять экспериментов, в каждом из которых участвовало от 200 до 300 участников. Последним предлагалось сыграть в игру с торгами, в которой требовалось вести переговоры о небольших выплатах в 1-6 долл. другим людям или компьютеру. В некоторых случаях участникам сообщалось, что их решения будут использоваться для обучения компьютера играть в эту игру. Результаты экспериментов показали, что информированные участники гораздо чаще добивались справедливых выплат даже в ущерб себе. Примечательно, что это поведение у них сохранялось и после того, когда им сообщалось, что их решения больше не будут использоваться в обучении ИИ.

 Несмотря на то, что причина данного психологического феномена до сих пор не ясна, результаты данного исследования отлично демонстрируют важную роль человеческого фактора при обучении ИИ-систем. По мнению экспертов, при тренировке ИИ разработчикам следует уделять больше внимания человеческой предвзятости, которая без должного контроля будет адаптирована машиной.