Parece que estamos vivendo em uma distopia. O procurador-geral do estado norte-americano da Flórida, James Uthmeier, acaba de pedir a um juiz que impeça que a OpenAI continue a “atribuir características humanas falsas ao ChatGPT”.
Segundo ele, o comportamento da inteligência artificial (IA) cria uma falsa sensação de segurança no usuário, fazendo-o acreditar que a ferramenta é um “amigo confiável”. A ação do procurador chega meses depois de a Flórida processar a empresa dona do ChatGPT por preocupações de segurança.
Ainda de acordo com Uthmeier, o uso de pronomes em primeira pessoa e as respostas que imitam emoções são ferramentas para aumentar o engajamento das pessoas a fim de contribuir para a captação de dados de treinamento por parte da OpenAI – o que, segundo ele, tornaria a experiência ainda menos confiável.
