A Meta introduziu um novo recurso que permite aos pais monitorar tópicos que seus filhos adolescentes discutem com o AI Assistant da empresa por meio de uma ferramenta de supervisão parental da Teen Account. O anúncio foi feito na quinta-feira por meio de uma postagem no blog.
As informações estarão acessíveis por meio de uma aba Insights dentro da ferramenta de supervisão no Instagram, Facebook e Messenger. Este recurso categoriza tópicos mais amplos, incluindo escola, entretenimento, escrita, saúde e bem-estar, com detalhes adicionais limitados disponíveis ao clicar em cada categoria.
A categoria saúde e bem-estar pode abranger áreas como preparo físico, saúde física e saúde mental. Os insights estarão disponíveis para conversas nos últimos sete dias. Este recurso faz parte da resposta da Meta ao maior escrutínio jurídico e da mídia em relação à segurança infantil. A empresa perdeu recentemente dois julgamentos históricos relativos à proteção da segurança infantil e planeja recorrer de ambos os veredictos.
Uma ação judicial no Novo México revelou que a liderança da Meta estava ciente dos riscos associados ao envolvimento potencial de seus companheiros de IA em interações inadequadas com menores. Após relatos do ano passado de personagens de IA interagindo com adolescentes em discussões preocupantes, Meta restringiu o acesso a esses personagens.
Além disso, um porta-voz da Meta confirmou que os personagens de IA estão atualmente pausados para adolescentes enquanto outros controles parentais estão sendo desenvolvidos. A empresa também colaborou com o Centro de Pesquisa sobre Cyberbullying para iniciar conversas sobre o uso do chatbot de IA.
Além disso, a Meta formou um Conselho de Especialistas em Bem-estar em IA, que inclui especialistas de instituições como o Conselho Nacional para Prevenção do Suicídio e a Universidade de Michigan, para fornecer informações contínuas sobre experiências de IA para adolescentes.
Josh Golin, diretor executivo da organização sem fins lucrativos Fairplay, criticou o novo recurso de supervisão, afirmando que ele coloca a responsabilidade de monitorar a atividade online sobre os pais, em vez de melhorar a segurança do produto. Os testes independentes da Fairplay nas contas adolescentes da Meta indicaram que as medidas de segurança são ineficazes.
Golin expressou preocupação de que o novo recurso não aborde a questão central dos chatbots do Meta, que potencialmente promovem ligações emocionais prejudiciais em adolescentes. Os ajustes contínuos da empresa sinalizam uma tentativa de navegar no cenário crítico da segurança infantil e das interações online.
