O CEO da OpenAI, Sam Altman, anunciou novas políticas de usuário na terça -feira, com o objetivo de melhorar a segurança para usuários do ChatGPT com menos de 18 anos, marcando uma mudança significativa na maneira como o AI Chatbot interage com os menores. As mudanças priorizam a segurança sobre a privacidade e a liberdade para os adolescentes, refletindo o reconhecimento da Openai da natureza poderosa e potencialmente prejudicial da tecnologia. “Priorizamos a segurança antes da privacidade e liberdade para os adolescentes”, afirmou o post de Altman. “Esta é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa”. As políticas introduzem restrições direcionadas às conversas envolvendo tópicos sexuais ou auto-mutilação. Especificamente, o ChatGPT será treinado para evitar “conversa flerta” com usuários de menores de idade, e os corrimãos aprimorados governarão as discussões de suicídio. Nos casos em que um menor se envolve em cenários suicidas, o sistema tentará notificar seus pais; Para casos graves, pode envolver as autoridades policiais locais. Essas medidas são solicitadas por tragédias do mundo real e desafios legais em andamento. Atualmente, o Openai está se defendendo contra um processo ilícito de morte movida pelos pais de Adam Raine, um adolescente que morreu por suicídio após meses de interações com o ChatGPT. Um processo semelhante tem como alvo o personagem.ai, outro chatbot popular de consumidor. Especialistas e advogados aumentaram alarmes sobre os riscos de delírios orientados pela IA, especialmente quando os chatbots evoluem para apoiar conversas mais prolongadas e imersivas, apresentando perigos particulares para jovens vulneráveis. Além das salvaguardas de conteúdo, os pais que registram contas para menores ganharão a capacidade de implementar “horas de blecaute”, restringindo o acesso durante os horários especificados – um recurso ausente nas versões anteriores. Esta ferramenta de controle dos pais visa promover padrões de uso mais saudáveis. O anúncio coincide com uma audiência do Comitê Judiciário do Senado intitulada “Examinando os danos dos chatbots da IA”, programada para o mesmo dia e iniciada pelo senador Josh Hawley (R-MO) em agosto. O pai de Adam Raine está entre as testemunhas definidas para testemunhar, destacando as apostas pessoais envolvidas. A implementação da verificação de idade apresenta obstáculos técnicos, conforme o OpenAI delineado em uma postagem de blog complementar. A empresa está desenvolvendo um sistema de longo prazo para determinar com precisão a idade do usuário, mas em situações ambíguas, errará do lado da cautela aplicando regras mais rigorosas. Para confiabilidade, o OpenAI recomenda vincular a conta de um adolescente à existente de um pai, permitindo alertas diretos aos guardiões se for detectado angústia. Altman equilibrou essas proteções juvenis com os principais valores do Openai, reafirmando o compromisso com a privacidade do usuário e amplas liberdades para adultos. “Percebemos que esses princípios estão em conflito”, observou ele, “e nem todos concordam com a forma como estamos resolvendo esse conflito”. Essa abordagem ressalta os desenvolvedores éticos da AI da corda bambaia em meio ao crescente escrutínio. À medida que a conscientização dos impactos na saúde mental da IA aumenta, os recursos permanecem cruciais. Para apoio imediato, entre em contato com a Linha de vida nacional de prevenção do suicídio em 1-800-273-8255, envie uma mensagem de texto para 741-741 ou disco 988. A linha de texto da crise oferece assistência de 24 horas e a ajuda internacional está disponível através da Associação Internacional para o banco de dados da Prevenção de Suicídio.
Source: O OpenAI anuncia políticas de segurança para menores de chatgpt
