Nova York fecha 12 sites de deepfakes ilegais de celebridades

Operação contra plataformas de deepfakes ilegais de celebridades

A Promotoria do Distrito de Manhattan anunciou na segunda-feira (14) o encerramento de 12 plataformas digitais especializadas na produção e distribuição de deepfakes ilegais de celebridades. A ação representa um marco importante na luta contra o abuso de tecnologia de inteligência artificial para criar conteúdo sexual não consensual de personalidades públicas.

De acordo com os promotores, os investigadores identificaram que esses deepfakes ilegais de celebridades foram criados utilizando softwares avançados de manipulação de imagem e vídeo. O material adulterado prejudicou mais de 1.200 vítimas reais, sendo a maioria mulheres conhecidas publicamente.

Alcance e impacto dos deepfakes ilegais de celebridades

As vítimas dos deepfakes ilegais de celebridades incluem atrizes, políticas, atletas profissionais, musicistas, defensoras de causas sociais e influenciadoras digitais de grande visibilidade. Todas essas mulheres tiveram seus rostos manipulados por softwares de inteligência artificial para aparecer em cenas de caráter sexualmente explícito.

O esquema funcionava através do compartilhamento e comercialização de vídeos e fotos hiper-realistas que mostravam versões de IA dessas celebridades praticando atos sexuais. Os deepfakes ilegais de celebridades eram distribuídos em larga escala nas plataformas derrubadas, gerando lucro significativo para os operadores.

Como funcionam os deepfakes e a tecnologia por trás

Deepfake é uma técnica sofisticada que permite inserir o rosto de uma pessoa em fotografias ou vídeos alterados com auxílio de inteligência artificial. O processo começa com uma imagem verdadeira do alvo, que é então modificada através de aplicativos especializados desenvolvidos especificamente para essa finalidade.

A tecnologia utiliza algoritmos de aprendizado de máquina e redes neurais convolucionais para mapear características faciais e recriá-las em novos contextos. Essa capacidade de criar material convincentemente realista torna os deepfakes ilegais de celebridades particularmente prejudiciais, pois aumenta significativamente o potencial de dano às vítimas.

Estratégia criminosa e modelo de negócio ilegal

A investigação revelou que as plataformas derrubadas funcionavam como marketplaces criminosos, anunciando explicitamente a oferta de "pornografia deepfake de famosas". O modelo de negócio baseava-se na publicação, distribuição e venda de registros íntimos não consensuais, independentemente de terem sido gerados por inteligência artificial ou não.

Os operadores dos deepfakes ilegais de celebridades aproveitavam a demanda de conteúdo explícito e a dificuldade inicial das autoridades em regular essa nova forma de abuso para lucrar de maneira substancial. As plataformas funcionavam de forma semi-clandestina, utilizando tecnologias de ofuscação para evitar detecção pelas autoridades.

Declarações das autoridades e compromisso de continuidade

O promotor distrital de Manhattan, Alvin Bragg Jr., expressou preocupação severa com o fenômeno dos deepfakes ilegais de celebridades. Segundo sua declaração oficial, essas empresas criminosas lucram deliberadamente com a publicação e disseminação de imagens e vídeos sexuais não consensuais, gerados ou manipulados por inteligência artificial.

"Essas violações hediondas de privacidade perseguem as vítimas em suas carreiras e vidas pessoais, causando um impacto imenso em seu bem-estar emocional e mental", afirmou Bragg Jr. A fala ressalta os danos psicológicos e profissionais causados pelos deepfakes ilegais de celebridades às mulheres afetadas.

Investigação contínua e monitoramento futuro

A Promotoria do Distrito de Manhattan informou que a investigação sobre essas e outras plataformas similares permanece em andamento. As autoridades comprometeram-se com o monitoramento constante das estruturas de internet para impedir que os deepfakes ilegais de celebridades retomem operações sob novos domínios ou identificações.

A estratégia de vigilância contínua busca antecipar tentativas dos criminosos de relançar suas operações com nomes e estruturas diferentes. Essa abordagem proativa reflete o entendimento de que a luta contra os deepfakes ilegais de celebridades requer engajamento duradouro e evolução constante das técnicas de investigação digital.

Implicações legais e futuro da regulação

A ação contra os deepfakes ilegais de celebridades marca um ponto de inflexão na abordagem legal sobre abuso de tecnologia. A operação demonstra que as autoridades de Nova York consideram essa forma de violação de privacidade suficientemente grave para justificar investigações complexas e ação judicial coordenada.

Essa abordagem agressiva aos deepfakes ilegais de celebridades pode servir de precedente para outras jurisdições enfrentarem problemas semelhantes, estabelecendo padrões de responsabilidade criminal para criadores e distribuidores de conteúdo não consensual manipulado por IA.