Fotos de crianças e IA: riscos e como reduzir a exposição

AVISO DE CONTEÚDO SENSÍVEL

Esta reportagem aborda exploração e abuso sexual infantil, violência, deepfakes e outros usos criminosos ou abusivos da inteligência artificial. O conteúdo discutido pode ser perturbador ou desencadear gatilhos emocionais.

O TecEdi não reproduz imagens explícitas, material de abuso sexual infantil nem conteúdo gráfico. O objetivo deste conteúdo é exclusivamente jornalístico, informativo e de conscientização.

No Brasil, adquirir, possuir, armazenar ou solicitar material de violência sexual contra crianças ou adolescentes é crime. Oferecer, transmitir, distribuir, publicar ou compartilhar esse conteúdo também constitui crime, conforme os arts. 241-A e 241-B do Estatuto da Criança e do Adolescente. Desde agosto de 2026, o art. 241-C menciona expressamente a simulação por manipulação tecnológica, inclusive com inteligência artificial, e o art. 241-E abrange representações reais ou fictícias geradas ou manipuladas digitalmente.

Esta é uma reportagem sobre um crime e seus impactos. Nenhum material ilegal será exibido, disponibilizado ou indicado.

Uma foto de aniversário, uma imagem do primeiro dia de aula ou o registro de uma partida de futebol não contém nada de errado. A criança não fez nada de errado. Os pais que guardaram ou compartilharam aquele momento também não criaram o crime. O problema começa quando outra pessoa copia a imagem e usa uma ferramenta digital para fabricar uma representação sexual que nunca existiu.

Isso já deixou de ser uma hipótese. Em agosto de 2026, a Polícia Federal abriu a Operação Manto Protetor para apurar a criação e a divulgação de conteúdo sexual envolvendo uma adolescente. Segundo a comunicação oficial da PF, o material teria sido produzido pela manipulação de imagens reais da vítima com inteligência artificial e divulgado em um aplicativo de mensagens. Foram cumpridos mandados e um celular foi apreendido para perícia. A investigação prosseguia quando esta reportagem foi concluída, portanto não há base para tratar suspeita como condenação.

Nos Estados Unidos, documentos judiciais reunidos pelo Departamento de Justiça registram um caso ainda mais direto. William Haslach, ex-funcionário de distritos escolares de Minnesota, fotografou crianças sob seus cuidados vestidas, em imagens que o próprio DOJ descreve como não explícitas, e depois as usou para produzir representações manipuladas por computador e IA. Quase 60 vítimas haviam sido identificadas. Haslach se declarou culpado em abril de 2026 de tentativa de produção e de reprodução de representação obscena de abuso infantil. A sentença ainda não estava marcada na página oficial consultada.

Esses casos sustentam uma constatação incômoda: uma fotografia inocente pode ser transformada sem o conhecimento da criança ou da família. Eles não provam que toda foto infantil na internet será usada dessa maneira, nem que a retirada completa das crianças do ambiente digital seja possível ou desejável. O que provam é que o risco existe e que suas consequências não desaparecem porque a cena foi fabricada.

Como a IA mudou a manipulação de imagens

Montagens e falsificações não nasceram com a inteligência artificial. O que mudou foi a combinação de velocidade, escala, custo baixo e capacidade de produzir variações. Tarefas que antes exigiam edição manual podem ser parcialmente automatizadas por sistemas que geram ou alteram imagens a partir de instruções, referências visuais ou ambos.

É importante separar processos diferentes que aparecem sob o mesmo rótulo.

Imagem completamente sintética: pessoas e cenas são geradas sem representar deliberadamente uma criança real identificável.
Foto real manipulada: o rosto, o corpo ou outra característica de uma criança específica é inserido ou transformado em uma falsificação.
Material de abuso preexistente alterado: registros de vítimas reais são modificados para criar novos arquivos e prolongar a revitimização.
Falsificação íntima para coerção: uma imagem inventada é usada em bullying, perseguição, chantagem ou sextorsão.
Dados de treinamento contaminados: material ilegal ou suspeito aparece em um conjunto usado para desenvolver modelos.

Essas categorias podem se cruzar, mas não são equivalentes. Uma imagem inteiramente sintética não tem necessariamente uma criança fotografada como vítima direta daquela cena. Uma falsificação feita com o rosto de uma criança real atinge alguém identificável. Alterar material de abuso já existente volta a explorar uma vítima cuja violência foi registrada. E um arquivo presente em dados de treinamento cria um problema de origem e governança, mesmo que o usuário nunca envie uma foto específica ao sistema.

Treinar um modelo e enviar uma foto são coisas diferentes

Durante o treinamento, um modelo analisa muitos exemplos e ajusta parâmetros matemáticos para aprender padrões. Isso não deve ser descrito como um álbum convencional guardado dentro da ferramenta. Ainda assim, a origem e a limpeza desses dados importam.

Em 2023, uma investigação do Stanford Internet Observatory encontrou mais de 3.200 imagens suspeitas de material de abuso sexual infantil no conjunto aberto LAION-5B, usando correspondências por impressão digital e análise adicional. O relatório da universidade recomendou limpeza mais rigorosa e retirada de cópias contaminadas. A conclusão vale para o conjunto examinado. Ela não autoriza afirmar que todos os geradores ou todos os modelos comerciais foram treinados com material ilegal.

Outra situação ocorre depois que o modelo já existe. Uma pessoa pode fornecer a fotografia de uma criança específica para editar a imagem, transferir características ou orientar uma geração. Nesse caso, a foto funciona como entrada daquela operação. Isso não demonstra que ela fazia parte do treinamento original. Os casos da PF e do DOJ mostram justamente o dano ligado à manipulação posterior de pessoas identificáveis.

Em 2025, o National Center for Missing & Exploited Children, o NCMEC, recebeu mais de 30 mil relatórios em que usuários teriam tentado gerar material abusivo enviando um arquivo acompanhado de texto. O órgão também registrou mais de 145 mil relatórios sobre interação ou alteração de um arquivo sem texto anexado e mais de 12 mil em que empresas indicaram material encontrado em dados de treinamento. As categorias reforçam por que treinamento, upload e resultado final não podem ser tratados como a mesma etapa.

Material de abuso sexual infantil gerado por IA

O termo preferido nesta reportagem é material de abuso sexual infantil, traduzido da sigla inglesa CSAM. A expressão evita transformar o abuso de uma criança em uma categoria de entretenimento adulto. Com inteligência artificial, esse material pode assumir formas inteiramente sintéticas ou misturar elementos reais e fabricados.

Se a imagem é artificial, o dano também é?

A resposta depende do que foi criado, de como foi usado e de quem foi atingido. Quando a falsificação representa uma criança real, pode haver humilhação, medo, assédio, perda de confiança, circulação entre colegas e necessidade de explicar repetidamente que aquilo nunca aconteceu. Quando o arquivo deriva de material de abuso existente, a vítima é novamente explorada. Quando é totalmente sintético, não há necessariamente uma criança fotografada na cena, mas autoridades alertam que o arquivo pode alimentar comunidades criminosas, normalizar a sexualização infantil e aumentar o volume que investigadores precisam examinar enquanto procuram vítimas reais.

A Operação Cumberland, coordenada com apoio da Europol, mostrou essa última situação. Em fevereiro de 2025, autoridades de 19 países identificaram 273 suspeitos, prenderam 25 pessoas, fizeram 33 buscas e apreenderam 173 dispositivos em uma investigação sobre material totalmente gerado por IA. Esses são resultados operacionais, não 273 condenações. A Europol destacou que o aumento de arquivos sintéticos dificulta a triagem e a identificação de vítimas.

Casos documentados mostram vítimas diferentes

O processo de Minnesota demonstra o uso de fotografias comuns obtidas por alguém que tinha acesso direto às crianças. Não há indicação na página do DOJ de que as imagens manipuladas tenham sido distribuídas, e o órgão também informa não haver acusação de abuso físico contra as crianças sob os cuidados do réu. Essas distinções são essenciais: o dano documentado não precisa ser ampliado por alegações que o processo não faz.

Em Ohio, James Strahler II se declarou culpado em abril de 2026 de crimes que incluíram perseguição digital, produção de representações obscenas e publicação de falsificações digitais. Segundo o DOJ, ele usou rostos de meninos de sua comunidade em conteúdo manipulado e publicou centenas de imagens envolvendo vítimas reais e personagens animados. A sentença seria definida posteriormente.

No Brasil, a Operação Manto Protetor oferece um exemplo sob investigação, não julgado. A PF afirmou que as imagens reais de uma adolescente teriam sido manipuladas e compartilhadas. O uso do verbo no condicional não é uma formalidade: mandado, apreensão e perícia fazem parte da busca por prova. Só o processo pode estabelecer responsabilidade criminal.

Juntos, os três registros mostram rotas diferentes para o dano: relação de confiança, acesso a rostos de pessoas da comunidade e circulação por mensageria. Nenhum deles permite estimar quantas fotografias públicas foram copiadas no mundo. Eles permitem afirmar que crianças reais já foram transformadas em alvos a partir de imagens que, na origem, não registravam abuso.

O que os números realmente medem

O NCMEC começou a acompanhar relatórios com nexo de IA na CyberTipline em janeiro de 2023. Foram 4.700 em 2023, 67 mil em 2024 e mais de 400 mil em 2025. Entre janeiro de 2023 e dezembro de 2025, seus analistas classificaram mais de 158 mil imagens e vídeos enviados em denúncias como gerados por IA. O órgão também informou ter identificado mais de 275 vítimas diretas em 2024 e 2025.

Ano	Relatórios com nexo de IA recebidos pela CyberTipline
2023	4.700
2024	67.000
2025	Mais de 400.000

Esses números precisam de freio metodológico. Um relatório não é sinônimo de criança, autor, crime único ou condenação. Pode conter vários arquivos, e o mesmo material pode chegar por mais de uma empresa. A capacidade de identificar IA e os formulários de denúncia também mudaram ao longo do período. O salto mostra crescimento no que foi detectado e reportado, mas não mede sozinho a prevalência total do crime.

A Internet Watch Foundation, IWF, usa outra unidade. A organização registrou 7.063 imagens e vídeos de IA em 2024 e 8.029 em 2025. Dentro do recorte de vídeo, o relatório anual de 2025 aponta 3.443 arquivos, contra 13 no ano anterior. Relatórios, URLs e arquivos são denominadores diferentes. Somá-los produziria um número grande, porém falso.

Deepfakes íntimos, bullying e sextorsão

Aplicativos chamados de “nudify” prometem fabricar nudez a partir de uma fotografia vestida. A eSafety Commissioner da Austrália relata que selfies, fotos escolares e publicações sociais são usadas em falsificações íntimas que circulam entre estudantes. A vítima pode nunca ter produzido nem enviado uma imagem íntima real.

O dano não depende de o público acreditar na autenticidade para existir. A imagem pode ser usada para constranger, excluir, assediar ou pressionar. Em sextorsão, o autor ameaça publicar a falsificação para obter dinheiro, novas imagens ou algum comportamento da vítima. O NCMEC documenta casos em que uma criança se recusou a enviar uma foto íntima e o agressor fabricou uma para continuar a chantagem.

A orientação central de autoridades é não pagar nem produzir mais conteúdo. Ceder não garante o fim da ameaça e pode aumentar as exigências. A vítima precisa ouvir claramente que não tem culpa, mesmo se tiver enviado uma foto ou conversado com o agressor. O responsável deve preservar mensagens, nomes de perfil, horários e endereços eletrônicos úteis para a denúncia, sem redistribuir o arquivo abusivo.

O que pais e responsáveis precisam saber

O risco não exige pânico nem desaparecimento digital. Exige escolhas conscientes. A National Crime Agency britânica e a IWF alertam que fotos familiares podem ser copiadas de redes sociais, sites ou aplicativos de mensagem e manipuladas. Nenhuma configuração oferece proteção absoluta, porque um destinatário ainda pode salvar, encaminhar ou capturar a tela. Mesmo assim, reduzir exposição diminui oportunidades de uso indevido.

Revise quem pode ver as publicações. Perfil privado é uma barreira útil, mas a lista de seguidores também precisa ser revisada.
Faça uma auditoria das fotos antigas. Arquivar publicações públicas reduz a quantidade de material disponível para desconhecidos.
Evite combinar rosto, nome completo e rotina. Escola, uniforme, endereço, geolocalização, horários e locais frequentes ajudam terceiros a identificar e abordar uma criança.
Converse com familiares e amigos. A escolha de privacidade perde efeito quando outras pessoas publicam a mesma imagem abertamente.
Leia os termos de escolas, clubes e eventos. Pergunte onde as fotos serão divulgadas, por quanto tempo e como retirar o consentimento.
Inclua a criança na decisão. Conforme a idade, pergunte se ela aceita a publicação e explique que arquivos online podem ser copiados.
Prefira enquadramentos menos identificáveis quando possível. Fotos de detalhes, atividades ou momentos sem rosto podem preservar a lembrança com menor exposição.
Desative localização automática e remova detalhes desnecessários. O problema não é apenas o arquivo, mas o contexto reunido ao redor dele.

Essas medidas são redução de risco, não garantia. Também não transferem a culpa para pais ou crianças quando alguém comete o abuso. A responsabilidade é de quem copia, fabrica, ameaça ou distribui.

Se uma falsificação envolvendo uma criança aparecer

Acolha antes de investigar. Diga que a criança não é culpada e que ela fez certo ao pedir ajuda.
Não peça que ela baixe ou encaminhe o arquivo. Isso pode ampliar a circulação e expor mais pessoas a material ilegal.
Preserve o contexto com segurança. Guarde URLs, nomes de usuário, datas, mensagens de ameaça e números de protocolo. A Polícia Federal recomenda preservar evidências digitais, mas o armazenamento do próprio material ilegal exige orientação da autoridade.
Denuncie na própria plataforma. Use as categorias de abuso infantil, imagem íntima sem consentimento, falsificação ou assédio.
Procure a polícia. A denúncia pode ser feita à Polícia Civil; casos com repercussão federal ou transnacional podem ser encaminhados pela Comunicação de Crimes da Polícia Federal.
Use os canais nacionais. O guia do Governo Federal indica o Disque 100, o Ministério Público e a Central Nacional de Denúncias da SaferNet.
Peça remoção, mas mantenha expectativas realistas. O Take It Down cria no dispositivo uma impressão digital de imagens íntimas produzidas quando a pessoa era menor de 18 anos e a compartilha com plataformas participantes, sem enviar o arquivo original. A cobertura não inclui toda a internet.
Busque apoio psicológico e jurídico quando necessário. A circulação pode produzir ansiedade, isolamento e medo mesmo quando todos sabem que a imagem é falsa.

Se houver risco imediato à integridade da criança, procure o serviço de emergência e a autoridade local. Esta reportagem não substitui orientação jurídica individual.

IA, guerras e falsas evidências

O mesmo poder de fabricar uma cena plausível afeta registros de ataques, protestos, mortes e desastres. O Comitê Internacional da Cruz Vermelha, CICV, afirma que sistemas de IA são usados para produzir textos, áudios, fotografias e vídeos falsos cada vez mais difíceis de distinguir de conteúdo genuíno. Em conflitos, a desinformação pode alterar decisões, provocar deslocamentos, ampliar hostilidade e colocar civis em risco.

Há dois problemas separados. O primeiro é apresentar uma imagem inventada como prova de algo que não ocorreu. O segundo é publicar material real com legenda, local ou data falsos. Em 2023, no começo da guerra entre Israel e Hamas, especialistas observaram que grande parte das falsidades visuais virais ainda vinha de gravações reais antigas ou fora de contexto, e não de imagens avançadas de IA. A tecnologia nova não apagou métodos antigos de engano.

Em 2026, investigadores ouvidos pelo Reuters Institute da Universidade de Oxford relataram crescimento de imagens sintéticas na guerra informacional e mais tempo necessário para autenticar registros. A reportagem documentou também a mistura de material fabricado com imagens autênticas, uma combinação que torna o ambiente inteiro menos confiável.

O problema inverso: chamar uma fotografia verdadeira de “IA”

A simples existência de deepfakes cria uma saída conveniente para quem deseja negar uma evidência real. Pesquisadores chamam isso de dividendo do mentiroso. Em vez de provar que uma foto foi fabricada, alguém explora a dúvida coletiva e diz apenas que ela “parece IA”.

Em conflitos, essa acusação pode desacreditar o registro de vítimas, ataques ou violações. No cotidiano, pode permitir que o autor de uma ameaça diga que um áudio verdadeiro é falso. A consequência é uma erosão mais ampla: imagens artificiais conseguem enganar, enquanto imagens autênticas deixam de convencer.

Por isso, verificar uma fotografia não significa procurar mãos deformadas, sombras estranhas ou outro defeito popular. Modelos mudam, pós-processamento esconde pistas e imagens reais também apresentam compressão, borrões e erros ópticos. A origem do arquivo, a primeira publicação, o local, o horário, outras gravações e a confirmação por fontes independentes pesam mais do que uma impressão visual isolada.

Como empresas e plataformas estão respondendo

As respostas aparecem em diferentes pontos do ciclo. Desenvolvedores podem filtrar conjuntos de treinamento, testar se o modelo aceita pedidos abusivos, bloquear uploads e saídas, registrar sinais de proveniência e oferecer canais de denúncia. Plataformas podem combinar impressões digitais de material conhecido, classificadores para conteúdo novo, análise de comportamento e equipes humanas especializadas.

A iniciativa Safety by Design for Generative AI, organizada por Thorn e All Tech Is Human, recomenda proteção desde o desenvolvimento até a manutenção do serviço. Entre as medidas estão separar representações de crianças de conteúdo sexual adulto em dados de treinamento, avaliar capacidades antes do lançamento, detectar entradas e saídas abusivas, remover modelos criados para sexualizar imagens e compartilhar indicadores com organizações de proteção.

Nenhuma camada resolve tudo. Uma impressão digital funciona muito bem para reencontrar um arquivo conhecido, mas cada alteração pode criar uma nova versão. Um filtro pode bloquear usos legítimos por engano ou deixar passar uma tentativa criminosa. Modelos executados fora de serviços controlados podem perder proteções. Transparência sobre resultados, falhas e recursos dedicados à segurança é tão importante quanto anunciar um bloqueio.

O que autoridades estão fazendo

O trabalho policial precisa distinguir conteúdo sintético de vítimas reais, localizar pessoas em risco e preservar prova digital sem ampliar a circulação. Na Operação Cumberland, a Europol forneceu coordenação, inteligência e análise a países participantes. Nos Estados Unidos, FBI, Secret Service e polícias locais aparecem nos processos analisados. No Brasil, a PF prevê ronda virtual em ambientes digitais públicos e mantém o programa Guardiões da Infância.

O volume é um obstáculo. Em 2025, a CyberTipline recebeu 21,3 milhões de relatórios em todas as categorias, contendo 61,8 milhões de arquivos enviados por provedores. Mais de 400 mil relatórios tinham algum nexo com IA, mas mais da metade não trazia detalhe suficiente para classificar exatamente como a tecnologia participou. Uma avalanche de arquivos novos pode consumir tempo que também é necessário para localizar crianças em perigo imediato.

O que diz a lei brasileira

A Lei 15.487, de 6 de agosto de 2026 atualizou o Estatuto da Criança e do Adolescente e fechou parte da discussão sobre representações geradas por tecnologia.

O art. 241-A prevê reclusão de quatro a dez anos e multa para oferecer, transmitir, distribuir, publicar ou divulgar conteúdo de violência sexual contra criança ou adolescente.
O art. 241-B prevê reclusão de três a seis anos e multa para adquirir, possuir, armazenar ou solicitar esse material. A lei também alcança acesso ou visualização com finalidade sexual.
O art. 241-C prevê reclusão de três a cinco anos e multa para simular a participação de criança ou adolescente por adulteração, montagem ou modificação de imagem ou voz, inclusive com IA.
O art. 241-E define o material de modo a incluir criança ou adolescente real ou fictício em representação produzida, manipulada ou gerada por tecnologias digitais.

A aplicação depende dos fatos e das provas de cada caso. A lei brasileira não deve ser automaticamente usada para descrever processos estrangeiros, que seguem outros tipos penais. Da mesma forma, uma prisão ou busca não é condenação, e uma pessoa que se declarou culpada ainda pode aguardar a sentença.

Detectores de IA não são juízes

Ferramentas automáticas geralmente devolvem uma probabilidade, não uma certidão de autenticidade. O NIST, instituto de padrões dos Estados Unidos, explica que o desempenho varia de acordo com o gerador, o conjunto usado no teste e as alterações aplicadas depois. Compressão, redimensionamento e ruído podem reduzir a precisão. Um detector treinado com imagens de um sistema costuma funcionar melhor naquele sistema do que diante de um gerador desconhecido.

Padrões de proveniência, como o C2PA, seguem outra lógica. Eles podem anexar a um arquivo um histórico verificável de origem e edição. Isso ajuda a conferir a cadeia de produção, mas o próprio C2PA ressalta que a credencial não decide se a narrativa registrada é verdadeira. E a ausência de credencial não prova que uma fotografia seja falsa, pois a adoção ainda não é universal e metadados podem se perder.

Em investigação séria, detecção, proveniência, análise forense, contexto e confirmação independente se complementam. Nenhum botão isolado encerra a pergunta.

O que ainda não sabemos

Não existe uma contagem pública confiável de todas as fotografias comuns de crianças copiadas para manipulação. Casos descobertos representam apenas o que chegou a autoridades ou plataformas. Também não é possível converter o número de relatórios em uma estimativa direta de vítimas.

Ainda há pouca pesquisa longitudinal sobre os efeitos específicos de uma falsificação íntima infantil, separados de outras formas de violência baseada em imagem. Os danos relatados são reais, mas sua duração e sua relação com idade, circulação, resposta escolar e apoio familiar precisam de estudos mais amplos.

Também não sabemos a taxa de erro dos filtros usados por cada serviço, porque empresas divulgam níveis diferentes de detalhe. Sistemas fechados podem ter proteções fortes sem transparência suficiente para avaliação externa. Sistemas abertos permitem auditoria, mas também podem ser modificados para remover barreiras.

Por fim, nenhum dado apresentado aqui permite concluir que toda inteligência artificial generativa produz esse risco no mesmo grau. Arquitetura, dados, controles de acesso, moderação e forma de distribuição mudam muito entre ferramentas.

Uma imagem fabricada pode causar uma consequência verdadeira

As evidências não pedem uma condenação genérica da inteligência artificial. Elas pedem precisão. Existem ferramentas que auxiliam ciência, acessibilidade, criação e educação. Existem também pessoas que usam a mesma capacidade de síntese e edição para explorar crianças, perseguir vítimas e fabricar registros de guerra.

Uma fotografia familiar não é culpada por ter sido copiada. Uma criança não se torna responsável porque apareceu de uniforme, porque aceitou um seguidor ou porque confiou em alguém. Privacidade e educação digital reduzem oportunidades, mas não substituem plataformas seguras, investigação competente, leis aplicáveis e apoio às vítimas.

A imagem pode ser artificial. A vergonha imposta, a chantagem, o medo de ir à escola, o trabalho policial desperdiçado e a dúvida lançada sobre uma prova real não são.

As fotos dos seus filhos são inocentes. O que alguém pode fazer com elas usando IA pode não ser.

Ouvir reportagem