A ascensão da inteligência artificial generativa trouxe avanços incríveis, mas também trouxe consequências mais sombrias online. Um desses problemas é a cópia de rostos e corpos, muitas vezes chamada de deepfakes. Ela pode facilmente criar imagens sintéticas de nudez que podem causar grandes danos aos indivíduos. Indivíduos que tiveram fotos íntimas compartilhadas sem seu consentimento acharam difícil excluir essas imagens da internet. A Microsoft interveio com uma resolução que pode oferecer o suporte muito necessário.
A Microsoft fez um avanço importante ao introduzir uma nova ferramenta que permite que vítimas de deepfakes excluam essas imagens do mecanismo de busca Bing. Esta iniciativa recente visa abordar a proliferação de conteúdo pornográfico falso na internet que parece apresentar indivíduos reais, um fenômeno agravado pelos avanços na inteligência artificial.
Pare a disseminação de conteúdo adulto deepfake da Microsoft
A parceria da Microsoft com PareNCII (Pare com imagens íntimas não consensuais) representa uma colaboração vital na luta contra “vingança” e imagens de nudez deepfake. StopNCII é uma organização que permite que as vítimas criem uma impressão digital ou “hash” de imagens explícitas, sejam elas reais ou geradas por IA, em seus dispositivos. Essa impressão digital é então usada para rastrear e remover as imagens ofensivas em várias plataformas.
O Bing da Microsoft agora faz parte desse esforço, juntando-se às fileiras de outras grandes plataformas tecnológicas, como Facebook, Instagram, TikTok e Reddit. Esta é uma adição crítica às medidas de segurança já abrangentes da Microsoft, que anteriormente dependiam de uma ferramenta de denúncia direta. Embora a opção de denúncia direta permitisse que os usuários sinalizassem conteúdo prejudicial, não era o suficiente para acompanhar o volume de material ofensivo. Ao integrar a tecnologia de impressão digital do StopNCII, a Microsoft visa impedir de forma mais eficaz e proativa que essas imagens apareçam nos resultados de pesquisa e ajudar as vítimas a recuperar o controle sobre seus ativos digitais.
A luta contínua contra o deepfake
A questão das imagens de nudez geradas por IA tornou-se uma preocupação crescente com implicações generalizadas, especialmente em países como o Estados Unidos onde não há nenhuma lei federal que vise especificamente a pornografia deepfake de IA. Isso resultou em apenas 23 estados promulgando leis para abordar deepfakes não consensuaisdeixando vítimas em muitas regiões sem recurso legal adequado. A parceria da Microsoft com a StopNCII e a nova ferramenta no Bing podem fornecer algum alívio em um ambiente onde as proteções legais são inconsistentes.
No entanto, o problema é não limitado a adultos. Os estudantes do ensino médio também estão sendo alvos de “despir-se” sites que criam imagens falsas de nudez, demonstrando a necessidade de leis mais fortes e proteções mais abrangentes. As ferramentas do StopNCII atualmente cobrem apenas indivíduos com mais de 18 anos. No entanto, o impacto mais amplo dessas tecnologias prejudiciais é claro, e a necessidade de medidas mais fortes para proteger usuários jovens é inevitável.
O compromisso da Microsoft com a segurança digital
A Microsoft está ciente há muito tempo dos efeitos nocivos do compartilhamento de imagens íntimas sem permissão e tomou medidas para lidar com esse problema. No ano de 2015, a Microsoft lançou uma ferramenta de relatórios centralizada com o objetivo de auxiliar os usuários em relatar e remover relações íntimas não consensuais imagens. Mas, à medida que a tecnologia por trás das imagens sintéticas evoluiu, a abordagem da Microsoft também evoluiu.
A empresa também defendeu leis modernizadas para proteger vítimas de conteúdo gerado por IA e lançou propostas de políticas voltadas para proteger mulheres e crianças de abuso online. Além disso, a Microsoft continua aprimorando suas políticas internas para impedir a criação e distribuição de tal conteúdo em suas plataformas, incluindo Bing, Xbox e outros serviços ao consumidor.
A nova ferramenta da Microsoft é um grande passo à frente, mas a luta contra o deepfake não acabou. Novas tecnologias trazem novos desafios, e precisamos responder rapidamente. A Microsoft está trabalhando com a StopNCII e outros grupos para combater o deepfake. Mas precisamos da ajuda de todos.
A Microsoft incentiva as pessoas que estão preocupadas com o compartilhamento de suas imagens íntimas a usar as ferramentas do StopNCII e relatar violações à Microsoft. Isso ajudará a interromper a disseminação dessas imagens e dará às vítimas algum controle. Embora a tecnologia tenha permitido novas formas de abuso, ela também está fornecendo novas maneiras de revidar. A mais recente ação da Microsoft mostra essa luta contínua.
Crédito da imagem em destaque: Johannes Krupinski / Unsplash
Source: Nova iniciativa da Microsoft para combater vídeos adultos deepfake
