O Google revelou um episódio preocupante envolvendo o Gemini. Um grupo tentou replicar o modelo enviando mais de 100 mil prompts em um único ataque coordenado. A ofensiva não buscava invadir servidores ou roubar código-fonte, mas sim algo ainda mais estratégico: entender o funcionamento interno da IA para reproduzir suas capacidades.
O método utilizado é conhecido como distillation attack. Diferentemente de um hack tradicional, ele explora o acesso legítimo à API para bombardear o modelo com perguntas variadas, em múltiplos idiomas e contextos. A ideia é mapear padrões de resposta, identificar estruturas de raciocínio e treinar um sistema concorrente capaz de imitar a IA do Google.