Компания Microsoft начнет использовать искусственный интеллект против "языка ненависти"

Компания Microsoft начнет использовать искусственный интеллект и машинное обучение для фильтрации оскорбительных сообщений

Компания Microsoft использует искусственный интеллект и машинное обучение, чтобы позволить игрокам Xbox фильтровать текстовые сообщения, который они видят в текстовых сообщениях. Он вводит фильтры, которые позволяют игрокам выбирать словарный запас, который они видят в сообщениях от друзей и соперников. Первоначально фильтры охватывают только текст, но в конечном итоге будут применяться и к голосовому чату.

В своем блоге Microsoft сообщила, что фильтры будут опробованы тестерами Xbox в октябре, а затем распространены среди всех пользователей ее консоли в конце года.

По сообщениям компании, игроки смогут решить, какой уровень фильтрации они хотят применить к своим взаимодействиям с друзьями или соперниками, с которыми они общаются во время игры. Microsoft представила четыре уровня фильтров - дружественный, средний, зрелый и нефильтрованный. На отфильтрованных сообщениях появится предупреждение "потенциально оскорбительное скрытое сообщение".

Система фильтрации должна рассматриваться как дополнение к существующим стандартам компании Microsoft, которые поощряют хорошее поведение во время игр. Эта система может войти в систему репутации игроков Xbox, где плохой рейтинг может привести к бану игроков.

Исследования показали, что проблема оскорблений и преследований широко распространена среди геймеров. Исследование Антидиффамационной лиги, опубликованное в конце июля, показало, что 74% онлайн-игроков заявили, что они подвергались преследованиям в той или иной форме.

Более половины респондентов в исследовании ADL заявили, что злоупотребления были основаны на "расе, религии, способностях, поле, гендерной идентичности, сексуальной ориентации или этнической принадлежности".

Как сообщало издание "Комментарии", искусственный интеллект поможет обнаружить аневризмы мозга.