Рубрики
МЕНЮ
Павел Зинченко
Если вы когда-либо пытались поговорить с чат-ботом, то знаете, что даже современные системы не являются достаточно красноречивыми и регулярно выдают бессмысленные или болезненно общие ответы.
Однако теперь Google создал Meena, чат-бота, который, по заявлениям компании, сможет поддержать любую беседу с помощью усовершенствованной системы искусственного интеллекта. После создания Meena, Google нужно было найти способ оценить чат-бота. С этой целью компания разработала тест, который называется средним значением чувствительности и специфичности (SSA).
Чтобы вычислить этот показатель, Google попросил работников-людей провести около 100 бесед в свободной форме с Meena и несколькими другими чат-ботами с открытым доменом. Каждый раз, когда чатбот отвечал, рабочий должен был ответить на два вопроса об ответе.
Во-первых, имела ли реакция чатбота логический и контекстуальный смысл в разговоре? Если ответ был положительным, тогда рабочий должен были ответить на второй вопрос: "Был ли ответ тематическим для разговора?". Любые общие ответы отсеивались. Например, если человек написал, что ему нравится теннис, а чат-робот ответил: "Это хорошо", то такая реакция оценивалась как некоректная.
Google определил, что в среднем результат SSA у каждого отдельного человека достигал 86 процентов. Чат-боты набрали от 31 до 56 процентов. Meena, однако, набрала 79 процентов — приблизив ИИ к уровню общения, ожидаемого скорее от человека, чем от другого чат-бота.
Как сообщало издание "Комментарии", Google создаст оригинальный мессенджер.
Новости партнеров
Новости