Подрядчики Microsoft тоже прослушивают некоторые звонки Skype и запросы Cortana

Автор soner30, 19-08-2019, 23:44:55

0 Пользователей и 1 Гость просматривают эту тему.

Вниз

soner30

Недавно мы писали, что Apple была замечена в прослушивании голосовых запросов пользователей сторонними людьми, нанимаемыми компанией по контракту. Само по себе это логично: иначе развивать Siri было бы попросту невозможно, однако есть нюансы: во-первых, нередко передавались случайно сработавшие запросы, когда люди даже не знали, что их прослушивают; во-вторых, информация дополнялась некоторыми идентификационными данными пользователей; и в-третьих, люди не давали на это согласие.


Примерно в ту же историю попала теперь Microsoft: согласно переданным в руки журналистов Vice Motherboard скриншотам, кешу внутренних документов и аудиозаписям, сторонние подрядчики слушают разговоры пользователей Skype, которые ведутся через службу автоматического перевода. Хотя на сайте Skype говорится, что компания может анализировать аудио телефонных звонков, которые пользователь хочет перевести, она не сообщает, что какие-то из записей будут прослушиваться людьми.

Полученные журналистами фрагменты включают разговоры пользователей, которые общаются с близкими людьми, беседуют о личных проблемах вроде потери веса или обсуждают проблемы личных взаимоотношений. Другие файлы, полученные Motherboard, показывают, что подрядчики Microsoft также слушают голосовые команды, которые пользователи отправляют персональному помощнику Cortana. Apple и Google недавно приостановили использование подрядчиков для анализа записей с целью улучшения Siri и Assistant после негативной реакции на аналогичные сообщения в СМИ о практике компаний.


«Тот факт, что я даже могу поделиться с вами некоторыми из записей, показывает, насколько небрежна Microsoft в плане защиты пользовательских данных», -- отметил один из подрядчиков Microsoft, предоставивший анонимно кеш файлов для Moterboard. Фрагменты аудио, полученные журналистами, обычно короткие, продолжительностью в 5-10 секунд. Источник при этом отметил, что другие отрывки могут быть более длинными.

В 2015 году Skype запустила услугу «Переводчик», которая позволяет пользователям получать аудиопереводы в режиме реального времени во время телефонных и видеозвонков с помощью ИИ. Хотя продукт использует машинное обучение нейросети, результат, разумеется, корректируется и уточняется живыми людьми. В итоге достигается довольно высокое качество машинного автоматического перевода.

«Люди используют Skype, чтобы звонить своим любимым, участвовать в собеседованиях на работу, общаться со своими семьями за границей и так далее. Компании должны быть на 100 % прозрачными, когда речь заходит о записях разговоров людей и их последующем использовании, -- считает руководительница программы по использованию данных в группе Privacy International Фредерика Кальтойнер (Frederike Kaltheuner). -- И если образец вашего голоса будет рассматриваться человеком (по любой причине), система должна спросить, согласны ли вы с этим или, по крайней мере, дать вам возможность отказаться».



Microsoft считает, что её FAQ по Skype Translator и документация по Cortana ясно указывают, что компания использует голосовые данные для улучшения своих услуг (хотя там и не оговаривается прямо, что в процессе участвуют люди). Представитель компании сообщил журналистам по электронной почте: «Microsoft собирает голосовые данные для предоставления и улучшения голосовых услуг вроде поиска, команд, диктовки или перевода. Мы стремимся быть прозрачными в отношении сбора и использования аудиоданных, чтобы клиенты могли делать осознанный выбор относительно того, когда и как используются их голосовые записи. Microsoft получает разрешение клиентов перед сбором и использованием их голосовой информации.


Мы также внедрили несколько процедур, разработанных для определения приоритетов конфиденциальности пользователей, прежде чем делиться этими данными с нашими подрядчиками, включая деидентификацию данных, требование соглашений о неразглашении с поставщиками и их сотрудниками, а также требование соблюдения поставщиками высоких стандартов конфиденциальности, изложенных в европейском законодательстве. Мы продолжаем пересматривать способы обработки голосовых данных, чтобы обеспечить максимально чёткие варианты для клиентов и добиться надёжной защиты конфиденциальности».

Когда Microsoft предоставляет подрядчику аудиозапись для расшифровки, ему также предлагается серия приблизительных переводов, созданных системой Skype, согласно скриншотам и другим документам. Подрядчик затем должен выбрать наиболее точный из них или предоставить свой собственный, и аудио воспринимается как конфиденциальная информация. Microsoft подтвердила, что аудиоданные доступны только для подрядчиков через безопасный онлайн-портал, и что компания предпринимает шаги по удалению идентифицирующей информации пользователя или устройства.



soner30

Apple приостановила программу прослушивания людьми голосовых записей Siri


Apple заявила, что временно приостановит практику привлечения подрядчиков для оценки фрагментов голосовых записей Siri с целью повышения точности работы голосового помощника. Этот шаг последовал вслед за публикацией The Guardian, в которой бывший работник подробно описал программу, утверждая, что подрядчики регулярно слышат конфиденциальную медицинскую информацию, коммерческие тайны и любые другие частные записи в рамках своей работы (ведь Siri, как и другие голосовые помощники, нередко срабатывает случайно, отправляя в  Apple записи, когда люди этого не хотят). Причём записи якобы сопровождаются пользовательскими данными, раскрывающими местоположение и контактную информацию.


«Мы стремимся обеспечить превосходное окружение Siri, одновременно защищая конфиденциальность пользователей, -- заявил представитель Apple в беседе с The Verge. -- Пока проводится тщательный анализ ситуации, мы приостанавливаем программу оценки качества работы Siri во всём мире. Кроме того, в будущем обновлении программного обеспечения пользователям будет дано право выбирать, участвовать ли в программе».


Apple не сказала, оставит ли компания голосовые записи Siri на своих серверах. В настоящее время компания заявила, что хранит записи в течение шести месяцев, а затем удаляет идентифицирующую информацию из копии, которая может храниться ещё в течение двух или более лет. Целью программы оценки качества является повышение точности распознавания голоса Siri и предотвращение случайных срабатываний. «Небольшая часть голосовых запросов анализируется, чтобы улучшить Siri и диктовку, -- сказала Apple ресурсу The Guardian. -- Запросы не привязаны к Apple ID пользователей. Ответы Siri анализируются в безопасном окружении, и все рецензенты обязаны соблюдать строгие требования Apple в отношении конфиденциальности».


Однако в условиях предоставления услуг компании не было явно прописано, что существует вероятность, когда люди за пределами Apple могут слушать голосовые запросы Siri: в них отмечалось лишь, что определённая информация, включая имя, контакты, музыку, которую слушает пользователь, и голосовые запросы отправляются на серверы Apple с использованием шифрования. Apple также не предлагала пользователям никакого способа отказаться от Siri или участия в программе улучшения качества. Конкурирующие голосовые помощники от Amazon или Google тоже используют человеческий анализ, чтобы повысить точность (этого попросту не избежать), но позволяют отказаться от участия в программе.



CaPa



Вверх