Компанія Microsoft почне використовувати штучний інтелект проти "мови ненависті"

Компанія Microsoft почне використовувати штучний інтелект і машинне навчання для фільтрації образливих повідомлень

Компанія Microsoft використовує штучний інтелект і машинне навчання, щоб дозволити гравцям Xbox фільтрувати текстові повідомлення, як вони бачать в текстових повідомленнях. Він вводить фільтри, які дозволяють гравцям вибирати словниковий запас, який вони бачать в повідомленнях від друзів і суперників. Спочатку фільтри охоплюють тільки текст, але в кінцевому підсумку будуть застосовуватися і до голосовому чату.

У своєму блозі Microsoft повідомила, що фільтри будуть випробувані тестерами Xbox в жовтні, а потім поширені серед всіх користувачів її консолі в кінці року.

За повідомленнями компанії, гравці зможуть вирішити, який рівень фільтрації вони хочуть застосувати до своїх взаємодій з друзями або суперниками, з якими вони спілкуються під час гри. Microsoft представила чотири рівня фільтрів - дружній, середній, зрілий і нефільтрований. На відфільтрованих повідомленнях з'явиться попередження "потенційно образливе приховане повідомлення".

Система фільтрації повинна розглядатися як доповнення до існуючих стандартів компанії Microsoft, які заохочують хорошу поведінку під час ігор. Ця система може увійти в систему репутації гравців Xbox, де поганий рейтинг може призвести до бану гравців.

Дослідження показали, що проблема образ і переслідувань широко поширена серед геймерів. Дослідження Антидифамаційної ліги, опубліковане в кінці липня, показало, що 74% онлайн-гравців заявили, що вони піддавалися переслідуванням в тій чи іншій формі.

Більше половини респондентів у дослідженні ADL заявили, що зловживання були засновані на "раси, релігії, здібностях, статі, гендерній ідентичності, сексуальній орієнтації або етнічній приналежності".

Як повідомляло видання "Коментарі", штучний інтелект допоможе виявити аневризми мозку.