O Google decidiu limitar as respostas com a sua “visão de IA” nos resultados de pesquisas. A mudança ocorre após denúncias do The Guardian mostrando que a inteligência artificial forneceu informações incorretas que podem colocar a vida dos usuários em risco.
Dentre os resultados apresentados, um deles deu respostas imprecisas ao buscar por “qual é a faixa normal para exames de sangue de fígado” sem contextualizar nacionalidade, sexo, etnia ou idade dos pacientes, o que pode fazer com que usuários com doença hepática grave pensarem que estavam saudáveis e até abandonar seus tratamentos.
Especialistas descreveram as respostas como “perigosas” e “alarmantes”, pois o Google estava fornecendo informações falsas para pessoas com doenças graves, o que pode resultar em complicações agudas e até mortes.