Google Home silenciosamente captura gravações de violência doméstica e outras coisas mais

Google Home silenciosamente captura gravações de violência doméstica e outras coisas mais

11 de julho de 2019 Off Por Redação CenterDicas

O Google está sob ataque depois que um relatório descobriu que o Google Home e o Google Assistant registram o áudio do usuário, mesmo quando nenhuma palavra de ativação é usada.

Os alto-falantes inteligentes do Google Home e o assistente virtual do Google Assistant foram capturados sem permissão – capturando e gravando áudio altamente pessoal de violência doméstica, chamadas comerciais confidenciais – e até mesmo alguns usuários pedindo aos alto-falantes inteligentes para reproduzir pornografia em seus dispositivos móveis conectados.

Em um relatório de quarta-feira, o VRT NWS anunciou que obteve mais de mil gravações de um subcontratado holandês contratado como “revisor de idiomas” para transcrever o áudio coletado pelo Google Home e Google Assistant, e ajudar o Google a entender melhor os sotaques. usado no idioma. Dessas mil gravações, 153 das conversas nunca deveriam ter sido gravadas, já que o comando de despertar “OK Google” claramente não foi dado, diz o relatório.

“O VRT NWS conseguiu ouvir mais de mil trechos gravados pelo Assistente do Google”, segundo o relatório . “Nessas gravações, pudemos ouvir claramente endereços e outras informações confidenciais. Isso tornou fácil para nós encontrar as pessoas envolvidas e confrontá-las com as gravações de áudio. ”

O Google, por sua vez, reconheceu na quinta – feira que o VRT NWS obteve gravações autênticas, mas argumentou que seus especialistas em idiomas revisam apenas 0,2% de todos os trechos de áudio.

“Como parte de nosso trabalho para desenvolver a tecnologia de fala para mais idiomas, nos associamos a especialistas em idiomas ao redor do mundo que entendem as nuances e os acentos de um idioma específico”, afirma David Monsees, gerente de produto da Pesquisa do Google. “Esses especialistas em idiomas analisam e transcrevem um pequeno conjunto de consultas para nos ajudar a entender melhor esses idiomas. Essa é uma parte crítica do processo de criação da tecnologia de fala e é necessária para criar produtos como o Google Assistente. ”

O Google reconheceu que algum áudio pode ser gravado pelo Google Home ou pelo Assistente do Google sem a palavra de ativação, devido a um erro.

“Raramente, os dispositivos com o Google Assistente embutido podem experimentar o que chamamos de ‘falso aceite'”, disse Monsees. “Isso significa que houve algum ruído ou palavras em segundo plano que nosso software interpretou como sendo o hotword (como ‘OK Google’). Temos várias proteções para evitar que falsas aceitações ocorram em sua casa. ”

O Google também argumentou que trechos de áudio não estão associados a contas de usuários no processo de revisão. Apesar disso, VRT NWS disse, “não é preciso um cientista de foguetes para recuperar a identidade de alguém; você simplesmente tem que ouvir atentamente o que está sendo dito ”.

Embora o incidente mostre que o áudio está sendo coletado quando os usuários esperam que os dispositivos fiquem inativos, ele também destaca preocupações com segurança de terceiros e políticas de retenção e compartilhamento de dados do Google, já que um subcontratado vazou essas gravações para uma agência de notícias.

Monsees disse que o referido subcontratado está atualmente sob investigação.

“Acabamos de saber que um desses revisores de linguagem violou nossas políticas de segurança de dados vazando dados de áudio holandeses confidenciais”, disse ele. “Nossas equipes de resposta de segurança e privacidade foram ativadas nesta questão, estão investigando e tomaremos providências. Estamos realizando uma revisão completa de nossas salvaguardas neste espaço para evitar que erros de conduta como esse aconteçam novamente ”.

Privacidade de dados do Voice Assistant?

O incidente ocorre quando assistentes de voz, como Amazon Alexa e Google Home, passam por uma análise mais detalhada sobre a quantidade de dados que estão sendo coletados, quais são esses dados, por quanto tempo estão sendo retidos e quem os acessa.

Em abril, a Amazon foi colocada no centro das atenções por um motivo semelhante, depois que um relatório revelou que a empresa emprega milhares de auditores para ouvir as gravações de voz dos usuários do Echo. O relatório descobriu que os revisores da Amazon vasculham até 1.000 clipes de áudio Alexa por turno – ouvindo sobre tudo, de conversas mundanas a pessoas cantando no chuveiro, e até gravações que são perturbadoras e potencialmente criminosas, como uma criança gritando por ajuda ou assalto.

Assistentes de voz estão sendo cada vez mais criticados pela forma como lidam com dados privados. Em julho, a Amazon sofreu críticas novamente depois de reconhecer que mantém as gravações de voz e transcrições das interações dos clientes com seu assistente de voz Alexa indefinidamente – levantando questões sobre quanto tempo as empresas devem ser capazes de salvar dados altamente pessoais coletados de dispositivos de assistente de voz . E no ano passado, a Amazon inadvertidamente  enviou 1.700 arquivos de áudio contendo gravações de interações do Alexa por um cliente para uma pessoa aleatória – e mais tarde o caracterizou como um “contratempo” que se resumiu ao erro de um empregado.

Especialistas em segurança, por sua vez, disseram que os assistentes de voz em breve serão um grande foco para os reguladores à luz de leis como o Regulamento Geral de Proteção de Dados (GDPR).

“Definitivamente acho que teremos, digamos, nos próximos 15 meses, uma decisão do GDPR sobre a política de coleta de dados de dispositivos de automação residencial”, Tim Mackey, principal estrategista de segurança do centro de pesquisa de segurança cibernética da Synopsys, disse Threatpost. “Assistentes de voz provavelmente estarão no topo da lista, assim como coisas como campainhas de vídeo. E efetivamente será um caso do que foi divulgado e como as informações foram processadas ”.