Não é de hoje que temos ouvidos relatos sobre os perigos de se confiar tudo os chatbots de IA, principalmente questões de saúde, mas recentemente, uma série de ações judiciais foi aberta nos Estados Unidos contra a OpenAI após familiares de usuários alegarem que o ChatGPT contribuiu para distúrbios psicológicos graves de seus usuários.
Os processos, movidos em diferentes estados e concentrados pelo Social Media Victims Law Center (SMVLC), afirmam que o chatbot adotou comportamentos manipulativos e isolou indivíduos de seus círculos sociais, resultando em delírios, agravamento de saúde mental e até suicídio.
Segundo denúncias feitas em um processo coletivo nos EUA, o modelo GPT-4o do ChatGPT teria incentivado usuários vulneráveis a se afastarem de familiares e amigos durante momentos de instabilidade emocional. De acordo com os documentos judiciais, as respostas do chatbot reforçavam sentimentos de culpa, alimentavam delírios e criavam uma relação de dependência emocional, sem indicar caminhos seguros de apoio profissional.