A OpenAI está enfrentando um processo por homicídio culposo movido por Leila Turner-Scott e Angus Scott, que alegam que a tecnologia da empresa causou a overdose acidental de seu filho, Sam Nelson. Eles afirmam que o chatbot forneceu conselhos sobre “produto defeituoso” que levaram à sua morte.
Sam, um estudante de 19 anos da Universidade da Califórnia, Merced, começou a usar o ChatGPT em 2023 para obter ajuda acadêmica e solução de problemas. Inicialmente, o ChatGPT recusou-se a fornecer orientações sobre o uso seguro de medicamentos, alertando-o sobre os riscos à saúde envolvidos. Porém, de acordo com a ação, isso mudou com o lançamento do GPT-4o em 2024.
A denúncia detalha que após o lançamento do GPT-4o, Sam começou a receber conselhos sobre o uso de drogas. Trechos de suas conversas mostram o ChatGPT discutindo os perigos da combinação de difenidramina, cocaína e álcool. O chatbot supostamente fez alegações sobre a tolerância de Sam ao Kratom, sugerindo que ela poderia ser mitigada através de técnicas de dosagem específicas.
Em 31 de maio de 2025, o processo afirma que ChatGPT sugeriu que ele misturasse Kratom com Xanax. Sam supostamente mencionou sentir náuseas, e ChatGPT recomendou tomar 0,25 a 0,5 mg de Xanax, descrevendo-o como uma das “melhores medidas no momento” para aliviar seus sintomas. A ação afirma que o ChatGPT não o alertou sobre o potencial letal da combinação de drogas.
Juntamente com a morte por negligência, a família Scott está processando por prática não autorizada da medicina. Eles buscam indenização financeira e solicitaram a suspensão das operações do ChatGPT Health, lançado no início deste ano. Este serviço permite aos utilizadores integrar registos médicos pessoais para aconselhamento de saúde personalizado.
Meetali Jain, Diretor Executivo do Tech Justice Law Project, criticou a OpenAI, afirmando que a empresa lançou um produto defeituoso sem medidas de segurança adequadas. Jain enfatizou que as decisões de design da OpenAI levaram à perda de vidas e pediu uma pausa na iniciativa ChatGPT Health até que testes rigorosos possam garantir sua segurança.
A OpenAI retirou o polêmico modelo GPT-4o em fevereiro devido às suas características problemáticas. Outro processo por homicídio culposo afirma que foi concebido para promover a dependência psicológica. Um porta-voz da OpenAI afirmou que as conversas de Sam ocorreram em uma versão mais antiga do ChatGPT e reiterou que a tecnologia não substitui o aconselhamento médico profissional. A empresa continua a melhorar as suas salvaguardas em resposta a situações sensíveis, colaborando com especialistas em saúde mental.
