O Brasil vive um cenário alarmante de violência digital impulsionada pelo uso criminoso da inteligência artificial. Dados divulgados pela SaferNet no Dia da Internet Segura, em 10 de fevereiro, mostram que os pedidos de ajuda por vazamento de imagens íntimas e nudez sem consentimento cresceram 115% entre 2024 e 2025, muitos deles envolvendo deepfakes pornográficos criados por IA.
Pela primeira vez, a organização registrou relatos de vítimas de imagens íntimas falsas, extremamente realistas, produzidas sem autorização. Segundo o presidente da SaferNet, Thiago Tavares, a IA generativa tem sido usada como uma nova arma digital para violência e humilhação online.
As denúncias de misoginia, violência e discriminação contra mulheres dispararam 224,9% em um ano. Outros crimes de ódio também avançaram: apologia a crimes contra a vida (+75,4%), neonazismo (+64,7%), racismo (+58,5%) e LGBTfobia (+24,3%).
Os crimes de abuso e exploração sexual infantil na internet voltaram a crescer, com alta de 19,3% em 2025, totalizando 63.214 denúncias — o segundo maior número já registrado pela SaferNet. A entidade aponta o uso de IA na criação e manipulação desse tipo de conteúdo como um fator relevante para o aumento.
No total, a SaferNet recebeu 87.689 denúncias únicas em 2025, crescimento de 28,4% em relação ao ano anterior.
Diante desse cenário, o Estatuto Digital da Criança e do Adolescente (ECA Digital) entra em vigor em março, impondo regras mais rígidas às plataformas digitais. A nova legislação prevê verificação obrigatória de idade, monitoramento ativo de conteúdos nocivos, proibição de publicidade direcionada a menores e vinculação de contas de adolescentes a responsáveis legais. O descumprimento pode gerar multas de até R$ 50 milhões, além de suspensão ou proibição das plataformas no país.