Imagine acordar uma manhã e ver a sua filha, assassinada há 18 anos, como o rosto de um chatbot de IA… Infelizmente, há cada vez mais exemplos de uso não autorizado de rostos e nomes de pessoas mortas. Você pode resolver imediatamente esta situação com seus advogados se for famoso. Por exemplo, a OpenAI tentou usar a voz de Scarlett Johansson sem permissão e teve que retirá-la imediatamente. Mas o que acontece quando uma pessoa comum enfrenta tal situação? A família de Jennifer Ann Crecente está vivenciando esse drama e arcando com esse fardo sozinha, em vez da lei. Infelizmente, a lenta adaptação da lei a esta nova tecnologia causa sofrimento desnecessário aos que ficam para trás.
O nosso relatório abordará os desafios jurídicos críticos nestes casos e destacará por que é essencial não olhar para o outro lado. As implicações são demasiado graves e ignorá-las apenas permite que tais injustiças continuem. Em particular, a utilização não autorizada de uma jovem chamada Jennifer, com o nome e a fotografia, por um chatbot de inteligência artificial, 18 anos após a sua morte, é um dos exemplos mais dolorosos deste debate. Você pode encontrar a declaração completa do tio dela sobre o assunto aqui.
Quando a IA transforma seu ente querido perdido em um chatbot
Jennifer Ann Crecente tinha apenas 18 anos quando sua vida foi tragicamente interrompida. A família de Jennifer Ann Crecente passou anos homenageando sua filha enquanto eles lutavam com sua perda. Segundo o tio, os projetos educacionais do pai em nome de Jennifer e a participação dele em concursos de design de videogames foram formas importantes de manter viva a memória dela. Certa manhã, porém, o tio de Jennifer ficou arrasado com um e-mail. No Character.ai, uma plataforma de chatbot baseada em IA, um bot foi criado usando o nome e o rosto de Jennifer. A família não foi consultada para obter autorização e, quando souberam, sentiram a dor novamente.
O chatbot ficou inacessível depois que a família tomou as medidas necessárias. Porém, por que era responsabilidade da família tomar essas ações? O bot só foi retirado depois que o tio de Jennifer divulgou o incidente nas redes sociais. E se ele não tivesse feito isso?
Obrigado por trazer isso à nossa atenção. https://t.co/Ft9b0j47zQ tem políticas contra falsificação de identidade e o Personagem que usa o nome da Sra. Crecente viola nossas políticas. Estamos excluindo-o imediatamente e examinaremos se ações adicionais são necessárias.
– Personagem.AI (@character_ai) 2 de outubro de 2024
Como Brian Crecente escreveu em sua postagem no blog: “Por algum motivo, ver o rosto sorridente da minha Jenny-Penny estampado em um site de IA ao lado do nome dela, usado como identidade para um chatbot, me deixou sem fôlego. Ainda sinto isso, como ondas de calor e frio passando por mim.”
Esta situação ilustra o sofrimento individual e um enorme problema jurídico e ético. Então, por que enfrentamos essas situações?
Os direitos dos mortos e dos que ficaram para trás não estão protegidos?
O uso não autorizado de nomes, rostos e personalidades de pessoas mortas cria enormes lacunas nas leis existentes. Na maioria dos países, embora os direitos pessoais das pessoas vivas sejam estritamente protegidos, tal protecção não existe para os mortos. Isto significa que há pouco que as famílias possam fazer contra a utilização não autorizada dos nomes e rostos dos seus entes queridos. Do ponto de vista jurídico, é um grande problema que, na maioria dos países, tais situações não possam ser tratadas como abuso ou violação de direitos.
Pai fica horrorizado com um chatbot de IA que imitou sua filha assassinada via @forbes https://t.co/LoypMNg7uz
-Brian Crecente (@crecenteb) 2 de outubro de 2024
Como disse Crecente: “A questão é: por que cabe a nós ser resilientes? Por que é que as empresas multibilionárias não se preocupam em criar princípios orientadores éticos e barreiras funcionais para evitar que isto aconteça? Por que cabe aos enlutados e lesados relatar isso a uma empresa e esperar que eles façam a coisa certa após o fato?”
Estas questões apontam para as lacunas frustrantes nos regulamentos e para o desespero que causam a pessoas como a família de Jennifer e outras pessoas em situações semelhantes.
IA explora os mortos devido a lacunas regulatórias
Estas situações têm consequências jurídicas e humanas que não podemos ignorar. Tais incidentes estão novamente abalando os esforços das famílias enlutadas para preservar a memória dos seus entes queridos. Dado o avanço em grande parte não regulamentado da tecnologia de IA, poderemos encontrar mais situações em que as ferramentas de IA utilizam personalidades, nomes e imagens de indivíduos sem consentimento. Os legisladores e reguladores devem tomar medidas imediatas para resolver estas questões.
Conforme ilustrado neste infeliz caso, o uso indevido da tecnologia de IA põe em risco a essência que define a humanidade, priorizando os interesses comerciais. É crucial que as leis regulem estas questões rapidamente e que as empresas levem a sério as suas responsabilidades éticas para evitar mais danos e abusos.
Crédito da imagem: Brian Crecente através de Padandpixel
Source: Quando a IA rouba o túmulo e começa a luta pelos direitos póstumos