Deepfakes cada vez mais indistinguíveis de conteúdo autêntico, apontam especialistas

Desafio crescente na identificação de conteúdo falso

Especialistas em tecnologia da OpenAI e da Meta divulgaram nesta quinta-feira (15) um alerta inquietante: os deepfakes estão cada vez mais difíceis de detectar e distinguir de conteúdos legítimos. Os vídeos e áudios falsificados por inteligência artificial tornaram-se tão sofisticados que tanto pessoas quanto sistemas computacionais enfrentam dificuldades significativas para identificá-los. Este cenário crítico foi apresentado durante reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, realizada em Boston, e monitorada pela Reuters.

O tema debatido há três anos pela instituição judicial americana reflete preocupações legítimas sobre como os tribunais devem lidar com os riscos crescentes de materiais falsificados por tecnologia de IA. A sofisticação dos deepfakes coloca em questão a confiabilidade das provas apresentadas em processos judiciais, representando um desafio sem precedentes para o sistema judiciário.

Avanço da IA generativa e suas implicações

Os progressos obtidos com a chamada IA generativa — tecnologia revolucionária capaz de criar conteúdos como imagens, vídeos e áudios a partir de simples comandos de texto — possibilitaram a criação de falsificações extremamente convincentes. Shira Anderson, consultora de políticas da OpenAI, expressou preocupações profundas sobre a capacidade futura de identificar essas falsificações: "As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las".

Este depoimento revela a magnitude do problema que especialistas antecipam nos próximos anos. A tecnologia evolui em ritmo acelerado, enquanto os métodos de detecção parecem ficar progressivamente obsoletos.

Situação atual nos tribunais americanos

Apesar das preocupações manifestadas, os registros de casos judiciais envolvendo deepfakes ainda são surpreendentemente escassos. Em março, o Centro Federal do Judiciário — instituição de pesquisa subordinada ao Poder Judiciário dos EUA — divulgou dados de uma pesquisa realizada com 931 juízes: apenas 15 relataram ter enfrentado processos nos quais uma das partes contestou uma prova alegando se tratar de deepfake.

O juiz federal Jesse Furman, de Manhattan, que preside o comitê responsável por essas discussões, reconheceu esse paradoxo: "Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo". Essa constatação, porém, não diminui a urgência em preparar o sistema judiciário para desafios iminentes.

Perspectivas da indústria tecnológica

Profissionais da indústria, academia e governo concordam que o risco potencial não é meramente teórico. Devin Norder, diretor de gestão de produtos da Meta, comunicou à Reuters informações alarmantes: conteúdos produzidos pelos modelos de IA mais avançados já podem ser absolutamente indistinguíveis, para a percepção humana, de mídias autênticas. Além disso, Norder destacou que a produção desse tipo de material requer mínimo investimento de tempo e recursos financeiros.

Essa realidade torna os deepfakes cada vez mais acessíveis como ferramentas potenciais para fraude, conspiração e má conduta. OpenAI e Meta investem continuamente em desenvolvimento de ferramentas e serviços destinados a verificar a autenticidade de conteúdos visuais, reconhecendo sua responsabilidade nesse cenário.

Legislação emergente com marcas d'água

Em resposta aos riscos crescentes, jurisdições importantes implementaram medidas regulatórias. Na Califórnia e na União Europeia, novas legislações exigem a utilização de marcas-d'água para facilitar a identificação de materiais falsificados por IA. Essas marcas representam sinais digitais incorporados ao conteúdo que indicam sua origem ou auxiliam na verificação de autenticidade.

Entretanto, Anderson alertou sobre limitações críticas dessa abordagem: não existe um método universal capaz de identificar com segurança todas essas marcas ou confirmar definitivamente a autenticidade de um conteúdo visual. Como cada empresa desenvolvedora utiliza seu próprio sistema proprietário de marcas, a verificação continua sujeita a restrições significativas.

Desafios contínuos na verificação de conteúdo

A consultora da OpenAI reconheceu que "Minha impressão é que isso certamente continuará melhorando", mas acrescentou uma ressalva fundamental: "Não acho que algum dia será à prova de falhas". Essa avaliação honesta reflete a complexidade do problema e a impossibilidade de uma solução perfeita e permanente.

O sistema judiciário americano permanece em fase de preparação, desenvolvendo protocolos e critérios para avaliar se provas produzidas ou manipuladas por IA atendem aos mesmos parâmetros de confiabilidade exigidos de outras categorias de evidência, incluindo aquelas analisadas por peritos humanos. A tarefa é urgente e complexa, pois combina questões tecnológicas, legais e éticas sem precedentes.