ПОСЛЕЗАВТРА

Изучены недостатки рекомендательных алгоритмов в Интернете

Широкое распространение алгоритмов искусственного интеллекта (ИИ), особенно т.н. рекомендательных алгоритмов, предназначенных для выдачи пользователю интересующей его информации, привело к появлению таких феноменов, как информационные коконы (information cocoons). Таким термином называют изоляцию пользователя в сети, в результате чего ему подается только контент, соответствующий его предпочтениям и запросам, в то время как вся другая информация просто отбрасывается. В результате человек оказывается в информационной изоляции (информационном коконе), теряя доступ к разнообразию подаваемого контента. В долгосрочной перспективе информационные коконы могут способствовать радикализации и поляризации общества, а также увеличивать масштабы дезинформации в сети.

 Исследователи из Университета Цинхуа (Китай) решили выявить причины возникновения информационных коконов, а также выработать соответствующие стратегии противодействия. В результате проведенной работы ученые пришли к выводу, что информационные коконы возникают в результате сложных взаимоотношений между человеком и рекомендательными алгоритмами информационного портала. В частности, большую роль тут играет и так называемый цикл обратной связи (feedback loop). Дело в том, что умные алгоритмы учитывают не только положительный и отрицательный опыт пользователя в прошлом, но и подбирают подходящий ему контент в соответствии с «сопоставлением на основе сходства» (similarity-based matching) — т.е. человек получает контент, популярный у других пользователей со схожими взглядами и запросами. Этот процесс, по мнению исследователей, и является главным фактором формирования информационных коконов. Позитивная обратная связь при этом лишь усиливает этот эффект, что приводит к снижению информационного разнообразия.

 Противовесом этим двум факторам являются отрицательная обратная связь (дислайки) и так называемое «случайное самопознание» (random self-exploration), при котором система случайным образом вводит в подаваемый контент элементы, не выбранные в соответствии с предпочтениями пользователя. Как следствие для эффективной борьбы с информационными коконами необходимо внести соответствующие поправки в работу механизмов рекомендаций, заставив последние активнее использовать алгоритмы диверсификации подаваемой информации.