A proibição do ChatGPT na Itália chamou a atenção para os regulamentos de privacidade de dados do software, pois devido a supostas violações de privacidade, o regulador de privacidade italiano impôs na sexta-feira uma proibição do ChatGPT.
As autoridades nacionais de proteção de dados anunciaram que, após a proibição do ChatGPT na Itália, interromperão imediatamente o processamento de dados de usuários italianos para a OpenAI, empresa americana que criou a conhecida plataforma de inteligência artificial, e iniciarão uma investigação. O decreto só está em vigor até que a empresa cumpra o Regulamento Geral de Proteção de Dados, um regulamento histórico de privacidade da UE (GDPR). O grupo de defesa do consumidor BEUC também solicitou em 30 de março que o ChatGPT fosse analisado pelas autoridades nacionais e da UE, bem como pelos vigilantes de proteção de dados.
O BEUC está preocupado com o fato de que, embora a UE esteja atualmente redigindo a primeira lei de IA do mundo, levará anos até que ela entre em vigor, colocando os consumidores em perigo por causa de uma tecnologia que não é devidamente regulamentada.
Por que exatamente ocorreu o banimento do ChatGPT Itália?
Além de bloquear o chatbot da OpenAI, o vigilante italiano declarou que vai verificar se cumpre o Regulamento Geral de Proteção de Dados.
Sempre que os dados pessoais dos usuários da UE são processados, o GDPR entra em vigor, pois o GDPR regula como os indivíduos podem usar, processar e manter dados pessoais. E é óbvio que o enorme modelo de linguagem do OpenAI tem processado esse tipo de dados porque, por exemplo, pode gerar biografias de pessoas específicas na área sob demanda.
Os dados de treinamento utilizados para a versão mais recente da tecnologia, GPT-4, não foram divulgados pela OpenAI. No entanto, foi revelado que os modelos anteriores tiveram seus dados de treinamento retirados da Internet, incluindo fóruns do Reddit. Portanto, se você estiver online há algum tempo, há uma boa possibilidade de que o bot reconheça seu nome.
A violação de dados envolveu comunicações do usuário e detalhes de pagamento, informou o cão de guarda em 20 de março.
Em ambos os lados do Atlântico, estão aumentando os apelos para a suspensão de lançamentos adicionais do ChatGPT e uma investigação sobre a OpenAI, a empresa que o criou, devido a uma série de ameaças de segurança, privacidade e desinformação. Nesta semana, Elon Musk e vários profissionais de IA exigiram a interrupção das melhorias do ChatGPT.
A autoridade alegou que não existe qualquer justificação legal apresentada pela corporação para “a recolha e armazenamento em massa de dados pessoais… para ‘treinar’ os algoritmos” do ChatGPT. Além disso, a organização processa incorretamente os dados, conforme foram adicionados.
O regulador italiano que impôs a proibição do ChatGPT Itália alegou que o ChatGPT também sofreu uma violação de dados na semana passada, expondo conversas de usuários e detalhes de pagamento, que explicamos: O vazamento do OpenAI revela segredos entre você e o ChatGPT. A declaração continuou, com a alegação de que o OpenAI não verifica a idade do usuário e expõe “menores a respostas absolutamente inadequadas em comparação com seu grau de desenvolvimento e autoconsciência”.
Esta não é a primeira proibição de chatbot na Itália
O vigilante de dados italiano já tomou medidas semelhantes contra um chatbot de IA. Em fevereiro, a comissão proibiu anteriormente o aplicativo de chatbot Replika.ai. A Replika é conhecida pelos laços estreitos que alguns usuários têm com seu chatbot, e muitos clientes expressaram desapontamento quando a empresa removeu recentemente a opção de RPG erótico.
Os usuários ainda podem usar o ChatGPT via VPN que direciona o tráfego por Milão, Itália, no momento da redação deste artigo. No entanto, pode levar algum tempo para o OpenAI cumprir a diretiva de interromper o processamento dos dados dos usuários italianos.
Embora a OpenAI não tenha um escritório na UE, seu representante tem 20 dias para explicar como pretende alinhar o ChatGPT com as leis de privacidade da UE ou arriscar uma multa de até 4% de sua receita global.
Source: Proibição do ChatGPT na Itália chama a atenção para privacidade de dados