O Google iniciou o desenvolvimento de uma ferramenta de segurança no aplicativo para Android que notifica os pais quando o Gemini detectar conversas com menores sobre automutilação. Esse recurso chega como resposta à pressão sobre o impacto da inteligência artificial no público jovem.
Em resumo, trata-se de um sistema de alertas que ficará a cargo de notificar os responsáveis caso o modelo de IA detecte conversas com tema de autoagressão. A novidade foi identificada no código da versão 17.73.15.sa.arm64 do aplicativo Google para Android.
A funcionalidade deve ser integrada ao Family Link, aplicando as ferramentas de controle parental já existentes na plataforma. Atualmente, ela apenas aplica filtros de conteúdo nas respostas do assistente, sem mecanismo de aviso direto aos pais.
