В Китае из популярного мессенджера удалили чат-ботов из-за непатриотичных ответов
источник inc.Russia
Компания Tencent удалила из популярного в Китае мессенджера QQ два чат-бота после того, как алгоритмы непатриотично ответили на вопросы о Южно-Китайском море и Коммунистической партии Китая.
Пользователи лишились доступа к XiaoBing (чат-бот разработали в Microsoft) и BabyQ (его создали в пекинской компании Turing Robot). Тестовая версия BabyQ, которая в среду находилась в открытом доступе на сайте китайской компании, отрицательно отвечала на вопрос о том, любит ли чат-бот коммунистическую партию КНР.
На вопрос о том, принадлежит ли Тайвань Китаю BabyQ отметил, что пока не знает.
Во время работы в QQ чат-бот XiaoBing сообщал пользователям, что китайская мечта алгоритма — отправиться в Америку. 😂
В марте прошлого года корпорация Microsoft представила чат-бота Tay на основе искусственного интеллекта, который менее чем через сутки после запуска начал оскорблять пользователей Twitter.
Подобное поведение алгоритмов объясняется слабыми местами в техниках глубокого обучения, которые использовались при тренировке. В компании Forrester сравнили поведение Tay с BabyQ, поскольку машинное обучение предусматривает использование информации, доступной в интернете, что и приводит к таким ответам.
Напомним, Facebook закрыл систему искусственного интеллекта из-за того, что чат-боты вышли из-под контроля и начали общаться на собственном языке. Изначально агенты на основе искусственного интеллекта использовали для общения английский язык. Однако спустя некоторое время они создали язык, который могли понять только системы на основе ИИ.
Подписаться на наше сообщество, чтобы не пропустить ничего нового и быть самым умным.