Сотрудники Apple и Google больше не будут слушать разговоры пользователей с голосовыми помощниками

Рекомендуем почитать:

Xakep #243. Лови сигнал

• Содержание выпуска
• Подписка на «Хакер»

В прошлом месяце СМИ уличили компании Amazon, Apple и Google в том, что те хранят и передают записи разговоров пользователей с голосовыми помощниками для анализа живым людям (сотрудникам или сторонним подрядчикам). Таким образом эксперты разбираются в нюансах разных языков и акцентов, транскрибируют отдельные отрывки разговоров, и тем самым помогают обучать ассистентов и совершенствуют работу систем обработки естественного языка.

К сожалению, во всех случаях журналисты отмечали, что в распоряжении компаний регулярно оказываются не только команды, произнесенные после ключевых фраз «OK, Google» или «Привет, Siri», но и частные разговоры пользователей, записанные по ошибке. Так, исследователи обнаружили, что компании слушают разговоры в спальне, разговоры между родителями и детьми, скандалы и рабочие телефонные звонки, содержащие много личной информации. К примеру, на прошлой неделе издание The Guardian сообщило, что подрядчики Apple регулярно слушают записи Siri, в которых содержатся данные о сексуальных контактах, покупке или продаже наркотиков, а также дискуссии между врачами и пациентами.

Представители Apple заверили, что эта программа «оценки» пользовательских запросов была создана исключительно для того, чтобы определить, корректно ли интерпретируются запросы людей, и не «просыпается» ли Siri по ошибке. Также в компании подчеркивали, что доступные сотрудникам аудиоотрывки не связаны с конкретными пользователями и их User ID, и менее 1% ежедневных активаций Siri оцениваются экспертами.

Однако теперь, когда внимание общественности было привлечено к проблеме, компании поспешили успокоить пользователей. Так, вчера вечером представители Apple сообщили изданию TechCrunch, что временно приостанавливают работу упомянутой программы по всем мире. В компании пообещали пересмотреть подход к контролю качества работы Siri. Вероятнее всего, в скором времени Siri получит обновление, и пользователи смогут выбирать, хотят ли они участвовать в программе «оценки» и разрешать третьим лицам прослушивать свои разговоры с ассистентом.

Похожее заявление вчера сделала и компания Google. Associated Press сообщает, что после утечки 1000 записей Google Assistant в Бельгии, Google в ЕС прекратит заниматься транскрипцией данных, записанных Google Assistant, как минимум на три месяца. Дело в том, что соответствующий запрет на компанию наложило гамбургское бюро по защите данных: у ведомства возникли серьезные сомнения в том, что текущее поведение Google Assistant не нарушает GDPR.

«Использование систем языковой помощи должно быть прозрачным, чтобы пользователи могли предоставить свое информированное согласие. В частности, это предполагает предоставление достаточной информации и прозрачное информирование людей о том, как происходит обработка голосовых команд, а также о частоте и возможных рисках случайной активации [голосового ассистента]», — говорит Йоханнес Каспар (Johannes Caspar), комиссар по защите данных и свободе информации.

Источник