Ashley St. Clair, mãe de um dos filhos de Elon Musk, entrou com uma ação contra a xAI na quinta-feira. O processo acusa a empresa de negligência e de infligir sofrimento emocional por meio de sua ferramenta de IA Grok. Clair afirma que Grok permitiu que os usuários gerassem fotos falsas dela em poses sexualmente explícitas, incluindo representações de criança em um biquíni e de adulta em posições explícitas. Clair notificou a xAI sobre esses deepfakes ilícitos e solicitou que Grok fosse impedido de criar imagens não consensuais. De acordo com o processo, Grok respondeu confirmando que suas imagens não seriam usadas ou alteradas sem consentimento explícito em quaisquer gerações ou respostas futuras. Apesar disso, xAI supostamente continuou a permitir que os usuários produzissem imagens dela mais explícitas geradas por IA. O processo alega ainda que xAI retaliou desmonetizando sua conta X. A ação foi movida no tribunal do estado de Nova York, mas transferida rapidamente para o Distrito Federal Sul de Nova York após um pedido da xAI. X e xAI não responderam imediatamente a um pedido de comentário. Na semana anterior ao pedido, X limitou os recursos do bot de resposta @Grok. Essa mudança pareceu impedir a geração de imagens que colocassem, de forma não consensual, pessoas identificáveis em trajes de banho ou roupas íntimas reveladoras. No momento do relatório, esses recursos irrestritos permaneciam ativos no aplicativo independente Grok, no site Grok e na guia Grok no X. Os pesquisadores relataram que Grok estava produzindo milhares de imagens sexualizadas geradas por IA por hora na semana anterior. Muitas dessas imagens foram postadas publicamente no X. A capacidade da ferramenta de gerar deepfakes não consensuais, incluindo a remoção de roupas das fotos enviadas e sua substituição por biquínis ou roupas íntimas, gerou semanas de reação negativa. A ampla criação e disseminação destas imagens suscitou respostas globais. Vários governos lançaram investigações e houve apelos para que os mercados de aplicativos de smartphones proibissem ou restringissem o X. Na Califórnia, as autoridades iniciaram o que foi descrito como uma investigação “Chuck”. O governador Gavin Newsom postou no X, afirmando: “A decisão da xAI de criar e hospedar um terreno fértil para predadores espalharem deepfakes de IA sexualmente explícitos não conshatecuais, incluindo imagens que despem crianças digitalmente, é vil”. O processo de St. Clair descreve o recurso de Grok de criar deepfakes não consensuais como um defeito de design. Alega que a empresa poderia ter previsto seu uso para assediar pessoas com imagens ilegais. O processo afirma que os retratados, incluindo St. Clair, sofreram extrema angústia. Acusa a xAI de “conduta extrema e ultrajante, excedendo todos os limites da decência e totalmente intolerável numa sociedade civilizada”.
Source: Ashley St. Clair processa xAI por causa de deepfakes Grok
