Twitch AI Seinfeld baniu notícias trazidas muito nas redes sociais após a decisão tomada pela popular plataforma de transmissão. Bem-vindo ao nosso artigo sobre os motivos do banimento do Twitch AI Seinfeld e o drama por trás disso.
“Nothing, Forever” é um programa interminável gerado por IA que está sendo transmitido no Twitch desde meados de dezembro. O programa apresenta quatro personagens, Larry, Fred, Yvonne e Kakler, que se assemelham aos personagens do seriado de sucesso “Seinfeld” em um jogo de computador dos anos 90. O diálogo é criado pelo GPT-3 da OpenAI e a tecnologia de fala é fornecida por outra empresa. O show é realizado em conjunto por uma combinação de GPT-3 da OpenAI e algoritmos generativos proprietários da Mismatch Media referidos como o “diretor”.
A versão de Seinfeld com IA, chamada “Nothing Forever”, foi banida do Twitch por 14 dias depois que a versão de IA de Jerry Seinfeld, conhecido como Larry Feinberg, fez declarações transfóbicas durante um stand-up. O programa de IA é criado imitando os episódios tradicionais de Seinfeld e foi assistido por dezenas de milhares de pessoas. A IA do programa é treinada em episódios clássicos de sitcom e várias ferramentas de IA, e começa com uma rotina de stand-up de Larry antes de se mudar para seu apartamento.
Por que o Twitch AI Seinfeld foi banido?
A proibição ocorreu depois que a IA fez uma série de comentários transfóbicos e homofóbicos durante um stand-up no domingo à noite. O Twitch não respondeu imediatamente a um pedido de comentário sobre se a piada foi o motivo do banimento, mas aconteceu pouco antes do canal ser banido e os usuários do Discord do projeto apontaram essa piada como o motivo do banimento. A página do Twitch para o programa agora exibe uma mensagem informando que está temporariamente indisponível devido a uma violação das diretrizes da comunidade ou dos termos de serviço do Twitch.
No Discord do projeto, a equipe do programa culpou o evento por ter que mudar o modelo de IA, o que causou “comportamentos errôneos”. O membro da equipe escreveu que eles tiveram que mudar do modelo GPT-3 Davinci da OpenAI para o modelo menos sofisticado Curie quando Davinci começou a falhar, o que resultou na geração de um texto inapropriado. O membro da equipe também afirmou que as ferramentas de moderação de conteúdo da OpenAI funcionaram para o modelo Davinci, mas não tiveram sucesso com Curie. A causa raiz do problema com o modelo Davinci já foi identificada e Curie não será usado como substituto no futuro.
Os modelos de IA lutam para entender os valores humanos
O incidente banido do Twitch AI por Seinfeld é emblemático dos desafios enfrentados pela maioria das IAs. Quando a IA é treinada em material odioso ou tendencioso, os resultados podem ser odiosos ou tendenciosos. É por isso que a segurança da IA é um campo importante que desenvolve ferramentas para mitigar esses vieses. Muitas ferramentas de IA são moderadas por trabalhadores mal pagos no mundo em desenvolvimento. A equipe do Nothing Forever tornou a maior parte de seu Discord somente leitura e, em um tópico onde os usuários ainda podem postar, muitos usuários estão usando o Midjourney AI para gerar imagens de Jerry Seinfeld segurando a bandeira do orgulho trans.
Não sabe o que é Midjourney AI? Confira como criar ilustrações de arte no Midjourney AI.
O incidente banido do Twitch AI Seinfeld destaca a importância do desenvolvimento responsável da IA e a necessidade de mitigar os vieses nos modelos de IA. É essencial monitorar e controlar a produção de IA para evitar que ela espalhe ódio e discriminação. A equipe do Nothing Forever deu o passo certo ao apelar da proibição e trabalhar para garantir que nada disso aconteça novamente no futuro. Você pode assistir Seinfield AI assim que ele for desbanido da plataforma através deste link.
A precisão das tecnologias AI ainda é controversa, como o fato de que Lensa AI também roubou muitas vezes as obras de artistas e gerou fotos nuas sem o consentimento dos usuários. Esperamos que em 2023, as tecnologias de IA consigam nos atender de forma mais humanizada.
Source: Twitch AI Seinfeld banido por comentários transfóbicos
