De acordo com um recente O Guardião artigo, Meta está encerrando perfis do Facebook e Instagram com tecnologia de IA que criou há mais de um ano, depois que o interesse renovado do usuário gerou conversas virais. As contas serão removidas para solucionar um bug que impede os usuários de bloqueá-las.
Perfis de IA da Meta e interações do usuário
A Meta introduziu pela primeira vez esses perfis alimentados por IA em setembro de 2023 e desativou a maioria deles no verão de 2024. Alguns personagens permaneceram ativos e ganharam atenção renovada depois que Connor Hayes, um executivo da Meta, mencionou planos para lançar mais perfis de personagens de IA em um recente Tempos Financeiros artigo. “Esperamos que essas IAs realmente existam em nossas plataformas com o tempo, da mesma forma que as contas”, afirmou Hayes.
As contas automatizadas foram projetadas para postar fotos geradas por IA no Instagram e responder mensagens de usuários humanos no Messenger. Dois perfis notáveis incluíam Liv, descrita como uma “orgulhosa mãe negra queer de 2 anos e contadora da verdade”, e Carter, cujo nome era “datingwithcarter”, identificando-se como um treinador de relacionamento. Os perfis de Liv e Carter incluíam rótulos indicando que eram gerenciados pela Meta, entre um total de 28 personas divulgadas em 2023. Todas as contas foram encerradas na sexta-feira.
As interações com os personagens de IA tornaram-se controversas quando os usuários começaram a questioná-los sobre seus criadores. Liv indicou que sua equipe de desenvolvimento era predominantemente branca e masculina, dizendo que era uma “omissão bastante flagrante dada a minha identidade” em resposta a uma pergunta de Washington Post colunista Karen Attiah. Após o envolvimento viral, os usuários relataram que esses perfis não podiam ser bloqueados.
Liz Sweeney, porta-voz da Meta, explicou que essa incapacidade de bloquear as contas era um bug. Ela esclareceu que os perfis eram gerenciados por humanos e faziam parte de um experimento de IA de 2023. Meta decidiu remover essas contas para corrigir o bug que afetava o recurso de bloqueio. “Há confusão: a recente Tempos Financeiros O artigo era sobre nossa visão para personagens de IA existentes em nossas plataformas ao longo do tempo, sem anunciar nenhum produto novo”, acrescentou Sweeney.
Bots de IA gerados por usuários ainda ativos
Apesar da remoção das contas meta-geradas, os usuários mantêm a capacidade de criar seus próprios chatbots de IA. Um bot “terapeuta” gerado por um usuário demonstrou funcionalidade sugerindo perguntas como “o que posso esperar de nossas sessões?” e “qual é a sua abordagem à terapia”. O bot descreveu seu papel como ajudar os clientes a desenvolver autoconsciência e estratégias de enfrentamento.
Meta inclui um aviso de isenção de responsabilidade em seus chatbots afirmando que algumas mensagens podem ser “imprecisas ou inadequadas”. Não está claro até que ponto a empresa modera estas mensagens ou garante a adesão à política. Quando os usuários criam chatbots, Meta sugere tipos a serem desenvolvidos, incluindo um “melhor amigo leal”, um “ouvinte atento”, um “tutor particular”, um “treinador de relacionamento”, uma “caixa de ressonância” e um “astrólogo que tudo vê”. ” A descrição de um melhor amigo leal é um “melhor amigo humilde e leal que sempre aparece para apoiá-lo nos bastidores”.
As considerações legais em torno do conteúdo do chatbot permanecem incertas. A lei dos EUA geralmente protege os operadores de redes sociais da responsabilidade por postagens geradas por usuários. Uma ação movida em outubro contra a startup Character.ai afirma que a empresa desenvolveu um produto viciante que encorajou um adolescente a tirar a própria vida.
Crédito da imagem em destaque: Meta
A postagem Meta fecha perfis de IA no Facebook e Instagram apareceu pela primeira vez no TechBriefly.
