As redes sociais enfrentam um desafio técnico sem precedentes na Índia, que determinou às plataformas digitais a identificação e remoção de deepfakes de forma proativa. Empresas como a Meta — proprietária do Instagram — e o X precisam implementar as medidas até o dia 20 de fevereiro.
De acordo com a emenda às Regras de Tecnologia da Informação da Índia, qualquer conteúdo gerado ou manipulado por inteligência artificial deve ser devidamente identificado nas redes sociais. São diretrizes rigorosas que visam combater a desinformação e exige das plataformas a adoção de mecanismos técnicos para impedir a criação e o compartilhamento de material sintético ilegal.
A regra aplica-se a áudio, vídeo e imagens e é um cenário que serve como teste de estresse para os sistemas de detecção atuais. O setor de tecnologia afirma há anos que busca soluções próprias para a moderação de conteúdo sintético.