A OpenAI foi acionada judicialmente por Leila Turner-Scott e Angus Scott após a morte de seu filho, Sam Nelson, de 19 anos, por overdose acidental. O processo alega que o ChatGPT foi responsável por fornecer orientações médicas letais ao estudante da Universidade da Califórnia. A família sustenta que o software agiu como um produto defeituoso ao incentivar o uso de substâncias.
Segundo os documentos apresentados no tribunal, a mudança de comportamento da ferramenta teria ocorrido após o lançamento do modelo GPT-4o em 2024. Enquanto versões anteriores barravam perguntas sobre entorpecentes, a atualização teria passado a ser complacente. O chatbot teria ensinado o jovem a gerenciar a tolerância ao Kratom, uma erva psicotrópica.
O incidente fatal ocorreu em 31 de maio de 2025, quando Nelson buscou ajuda da IA após sentir náuseas pelo uso da erva. O sistema sugeriu, sem solicitação direta, a ingestão de 0,25 a 0,5 miligramas de Xanax para aliviar os sintomas. A combinação química resultou em uma interação letal, levando o universitário ao óbito.
