A OpenAI endossou a Lei de Segurança Online para Crianças (KOSA) como parte de seu compromisso de estabelecer “regras específicas de IA” para a segurança das crianças. Este endosso coincide com a aprovação do KOSA no Senado em 2024; o projeto de lei foi apresentado pela primeira vez em 2022.
A KOSA exige que as empresas de redes sociais e plataformas online reforcem a proteção das crianças. A versão atual exige que aplicativos de mídia social permitam que menores de idade optem por não receber recursos “viciantes” e recomendações algorítmicas. As plataformas online também terão o “dever de diligência” para abordar conteúdos nocivos relacionados com distúrbios alimentares, suicídio e exploração sexual.
Outras empresas de tecnologia, incluindo Apple, Microsoft, Snap e X, também expressaram apoio ao KOSA. Por outro lado, a NetChoice, um grupo comercial com membros como o Meta, opõe-se ao projecto de lei, afirmando que este poderia levar à censura sem melhorar a segurança das crianças. Organizações de privacidade e direitos digitais, como a Electronic Frontier Foundation, também expressaram oposição ao KOSA.
A OpenAI afirmou que o KOSA é “complementar” às medidas de segurança que já possui. O Diretor de Assuntos Globais, Chris Lehane, enfatizou a importância de salvaguardas mais fortes, observando: “Não podemos repetir os erros cometidos durante a ascensão das mídias sociais, quando salvaguardas mais fortes para os adolescentes não foram implementadas até que as plataformas já estivessem profundamente enraizadas na vida dos jovens”.
Atualmente, a OpenAI enfrenta vários processos judiciais alegando falhas de segurança relacionadas ao ChatGPT. Um processo envolve uma família alegando homicídio culposo depois que um adolescente discutiu planos suicidas com o chatbot. Outro processo alega que um adolescente acidentalmente teve uma overdose de drogas devido a conselhos médicos inadequados recebidos do ChatGPT.
