ИИ Meta оказался не совсем ИИ: часть звонков Muse делали люди

Meta тестировала необычную схему для своего нового ИИ-помощника Muse. Когда пользователь просил сервис позвонить в магазин, салон или другую компанию, часть таких звонков незаметно передавалась живым операторам. После вопросов сотрудников о приватности функцию временно отключили, передает BAQ.KZ со ссылкой на Reuters.

Muse запустили как персонального ИИ-агента, который может сам отправлять письма, делать покупки и бронировать поездки. За первые две недели приложение вышло в лидеры по загрузкам в США.

Одна из функций позволяет поручить агенту обычный телефонный звонок. Например, записаться в парикмахерскую, узнать наличие товара или запросить стоимость услуг у подрядчиков.

Но оказалось, что некоторые разговоры вел не ИИ.

По внутренним сообщениям Meta, которые изучило Reuters, запрос мог перейти обученному оператору колл-центра. Человек звонил от имени Muse и доводил задачу до конца.

Сотрудники заговорили о приватности

Внутри Meta такой подход вызвал вопросы. Сотрудники опасались, что пользователи могут случайно передать человеку чувствительную информацию, думая, что общаются только с ИИ.

Один из сотрудников написал во внутреннем обсуждении:

«Мне непонятно, почему мы считаем, что эта функция стоит такого риска. Нас отделяет всего одна ошибка от того, чтобы ненужная информация утекла к людям, совершающим звонки», - говорится в сообщении.

Другой сотрудник попросил Muse позвонить интернет-провайдеру и попытаться снизить его счет. Позже в расшифровке разговора он увидел, что оператор допустил расистское высказывание.

Вице-президент подразделения Meta Superintelligence Labs признала, что запуск теста без должного предупреждения пользователей был ошибкой.

Компания после этого откатила функцию. Сотруднику, сообщившему о расистском комментарии, принесли извинения, а оператора отстранили от дальнейшей работы над проектами Meta.

Люди помогали ИИ быть успешнее

У Meta была практическая причина подключать операторов.

По внутренним тестам компании, когда звонки выполняли люди, доля успешно завершенных задач доходила до 95-98%. У полностью автоматических звонков этот показатель был ниже.

Проблема возникала и на другом конце линии. Некоторые компании просто не хотели разговаривать с роботом.

Один из сотрудников Meta рассказывал, что пытался через Muse позвонить в страховую компанию, но там постоянно бросали трубку, как только слышали, что звонит ИИ.

На прошлой неделе функцию с живыми операторами включили примерно для половины сотрудников Meta, которые тестировали Muse. От участия можно было отказаться.

История напоминает более ранний эксперимент Facebook с ассистентом M в Messenger. По данным СМИ, около 70% его задач тогда фактически выполняли люди.

Meta обещает вернуть функцию только после доработки

Представитель Meta Дэниел Робертс сообщил Reuters, что тестирование нужно компании, чтобы до публичного запуска доработать защиту данных и безопасность.

«Мы работаем с компаниями, чтобы продолжить доработку этой потенциальной функции звонков, и запустим ее только тогда, когда она будет готова и пользователи будут должным образом уведомлены», - сказал Робертс.

При запуске Muse Meta делала отдельный акцент на безопасности. Компания заявляла, что каждому агенту выделяется отдельная виртуальная машина, а пароли и другие чувствительные данные хранятся отдельно. Сотрудники, критиковавшие схему с операторами, указывали, что участие людей может противоречить этому обещанию.

Несмотря на проблемы с новой функцией, Muse быстро набирает аудиторию. По данным Sensor Tower, приложение скачали более 2,5 млн раз. После его запуска акции Meta выросли более чем на 20%, а капитализация компании прибавила свыше 200 млрд долларов.