A Apple decidiu ir mais longe em sua luta contra a pornografia infantil. A empresa criou um novo sistema de digitalização e criptografia com o qual rastreará as fotos de seus usuários em busca de conteúdo suspeito. A nova função baseada em aprendizado de máquina não chegará a alguns países no momento, será testada primeiro nos Estados Unidos, mas já despertou suspeitas entre os especialistas em segurança cibernética.
A empresa, assim, confirmou a informação avançada no Twitter por Matthew Green, professor de criptografia da Universidade Johns Hopkins, na quinta-feira. A partir de agora, os usuários do iPhone receberão um alerta se alguma das imagens que tentarem enviar pelo iMessage for suspeita de incutir abuso sexual de menores.
“O Mensagens usa aprendizado de máquina no dispositivo para analisar anexos de imagens e determinar se uma foto é sexualmente explícita. O recurso é projetado para que a Apple não tenha acesso a Mensagens ”, detalha a Apple em um relatório que descreve como esse sistema funciona, o que não é tão novo quanto parece.
Como funciona?
A tecnologia será usada em iOS, macOS, WatchOS e iMessages de onde todas as imagens que os usuários pretendem compartilhar serão analisadas. Para fazer isso, eles recorreram a algoritmos de aprendizado de máquina conhecidos como NeuralHash.
A tecnologia hash analisa a imagem sem a necessidade de visualizá-la ou abrir o arquivo. Ele converte cada fotografia em um número único que descreve seu conteúdo, como uma impressão digital, mas que seria impossível para qualquer usuário entender.
Após comparar esse código com aqueles estabelecidos pela empresa como conteúdo suspeito, se forem detectadas correspondências suficientes entre um código e outro, é criado um alerta que desfoca a imagem e bloqueia seu compartilhamento.
A Apple garante que os pais poderão receber alertas se seus filhos quiserem enviar conteúdo classificado como suspeito. As autoridades também poderiam ser alertadas dessas partidas para que uma equipe humana pudesse revisar as imagens.
Matthew Green explica em sua conta no Twitter que essa tecnologia pode dar falsos positivos, pois eles não são muito precisos: “Isso é proposital. Eles são projetados para encontrar imagens que parecem imagens ruins, mesmo que tenham sido redimensionadas, compactadas, etc. ” A empresa nega esta afirmação: “O risco de o sistema sinalizar incorretamente uma conta é extremamente baixo. Além disso, a Apple analisa manualmente todos os relatórios feitos ao NCMEC para garantir a precisão dos relatórios. ”
Os riscos de privacidade
O que poderia ser uma ferramenta fundamental para perseguir criminosos, pedófilos e terroristas, representa ao mesmo tempo uma ameaça à privacidade de cidadãos inocentes e uma arma muito útil para regimes totalitários, denuncia o especialista em segurança cibernética.
O problema com essa nova ferramenta seria onde eles procurarão essas semelhanças. As fotos armazenadas nos dispositivos e armazenadas no iCloud são armazenadas criptografadas em servidores da Apple, mas, como explicam os especialistas, as chaves para descriptografar esses códigos são de propriedade da Apple.
Os únicos que possuem criptografia de ponta a ponta (E2E) são os iMessages que, como o WhatsApp, são protegidos de um dispositivo para outro para que ninguém além dos usuários possa vê-los. É aqui que, em teoria, o novo sistema da Apple entraria.
Esta análise de conteúdo não é tão nova. O Facebook verifica as postagens de nudez em suas redes sociais (Facebook e Instagram). A Apple também usou sistemas de hash para procurar imagens de abuso infantil enviadas por e-mail, sistemas semelhantes ao Gmail e outros provedores de e-mail em nuvem, que não são protegidos por criptografia de ponta a ponta.
Green acredita que essa tecnologia envia uma mensagem preocupante. “Independentemente dos planos de longo prazo da Apple, eles enviaram um sinal muito claro. (…) É seguro construir sistemas que varrem os telefones dos usuários em busca de conteúdo proibido ”, explica ele em seu perfil no Twitter.
No entanto, nem todos os especialistas em segurança cibernética foram tão críticos. Nicholas Weaver, pesquisador sênior do Instituto Internacional de Ciência da Computação da UC Berkeley, garantiu Placa-mãe que o novo recurso Mensagens da Apple “parece uma ideia MUITO boa”. “No geral, a abordagem da Apple parece bem pensada para ser eficaz e maximizar a privacidade”, acrescenta.
