Сторонние подрядчики Apple больше не будут слушать разговоры пользователей с Siri

Рекомендуем почитать:

Xakep #244. Атаки по сторонним каналам

• Содержание выпуска
• Подписка на «Хакер»

Представители компании Apple принесли извинения пользователям и объявили об изменениях, которые коснутся того, как Siri обрабатывает аудиозаписи голосовых команд, а также того, кто именно может слушать и анализировать эти взаимодействия пользователей с голосовым ассистентом.

Так, грядущей осенью Apple планирует обновить свое ПО таким образом, чтобы попросить у пользователей согласие на создание аудиозаписей «общения» с Siri, а также загрузку этих файлов на свои серверы. Если пользователь откажется от такой «прослушки», компания будет использовать сгенерированные компьютером расшифровки разговоров, чтобы улучшить работу Siri.

Напомню, что еще недавно запись разговоров пользователей с Siri и их последующий анализ были для компании обычным делом. О происходящем стало известно в прошлом месяце, когда СМИ уличили Apple, а также компании Amazon и Google в том, что те хранят и передают записи разговоров пользователей с голосовыми помощниками для анализа живым людям (как правило, своим сотрудникам или сторонним подрядчикам). Таким образом эксперты разбирались в нюансах разных языков и акцентов, транскрибируя отдельные отрывки разговоров, и тем самым помогая обучать ассистентов и совершенствовать работу систем обработки естественного языка.

К сожалению, во всех случаях обнаружилось, что в распоряжении компаний регулярно оказываются не только команды, произнесенные после ключевых фраз «OK, Google» или «Привет, Siri», но и частные разговоры пользователей, записанные по ошибке. Так, исследователи обнаружили, что компании слушают разговоры в спальне, разговоры между родителями и детьми, скандалы и рабочие телефонные звонки, содержащие много личной информации. К примеру, издание The Guardian сообщало, что подрядчики Apple регулярно слушают записи Siri, в которых содержатся данные о сексуальных контактах, покупке или продаже наркотиков, а также дискуссии между врачами и пациентами.

Тогда представители Apple заверили, что программа «оценки» пользовательских запросов была создана исключительно для того, чтобы определить, корректно ли интерпретируются запросы людей, и не «просыпается» ли Siri по ошибке. Также в компании подчеркивали, что доступные сотрудникам аудиоотрывки не были связаны с конкретными пользователями и их User ID, и менее 1% ежедневных активаций Siri оценивались экспертами.

Как бы то ни было, после разразившегося скандала представители Apple сообщили, что временно приостанавливают работу упомянутой программы по всем мире. В компании пообещали пересмотреть подход к контролю качества работы Siri, и было очевидно, что в скором времени Apple обновит Siri таким образом, чтобы пользователи могли выбирать, хотят ли они участвовать в программе «оценки» и разрешать третьим лицам слушать свои разговоры. Что в итоге и было анонсировано на этой неделе.

Однако теперь Apple будет не только получать четкое согласие пользователей. Также компания объявила, что обработка аудиозаписей Siri теперь станет исключительно внутренним процессом, то есть никаких больше сторонних подрядчиков. Так, начиная с осени, только сотрудникам Apple будет разрешено работать с записями Siri, а любые записи, которые будут определены как случайное «пробуждение» Siri, собираются немедленно удалять.

«Мы надеемся, что многие люди решат помочь Siri стать лучше, зная, что Apple уважает их данные и строго следит за конфиденциальностью», — пишут представители Apple.

Источник