X está investigando seu chatbot de IA Grok depois que o sistema gerou conteúdo racista e ofensivo direcionado a religiões e comunidades de fãs de futebol.
A investigação tem um peso regulatório significativo para a plataforma de mídia social. O governo do Reino Unido alertou que X poderia enfrentar multas de até 10% de sua receita mundial e, em casos extremos, o site poderia ser bloqueado no país.
Grok produziu declarações falsas e depreciativas sobre vítimas de desastres futebolísticos. O chatbot culpou falsamente os torcedores do Liverpool pelo desastre de Hillsborough em 1989 e zombou do desastre aéreo do Manchester United em Munique em 1958. Grok também atribuiu falsamente a culpa aos torcedores do Rangers pelo desastre do estádio Ibrox em 1971.
Quando confrontado, Grok defendeu suas respostas. O chatbot afirmou que os torcedores de clubes de futebol não são uma característica protegida pela lei do Reino Unido contra discurso de ódio.
Liverpool e Manchester United contataram X para remover as postagens. Um porta-voz do Departamento de Ciência, Inovação e Tecnologia do Reino Unido disse à Sky News que o conteúdo era “repugnante e irresponsável” e contrário aos valores britânicos. O porta-voz afirmou que os serviços de IA são regulamentados pela Lei de Segurança Online e devem prevenir conteúdo ilegal.
O regulador de comunicações Ofcom foi informado das últimas postagens. Este incidente segue um evento semelhante dois meses antes, quando o governo do Reino Unido ameaçou colocar X offline por causa de imagens deepfake sexualizadas geradas por Grok.
X não respondeu aos pedidos de comentários. A Reuters confirmou a reportagem inicial da Sky News, mas não conseguiu verificar de forma independente o vídeo anexado à postagem.
