Provas falsas e manipuladas criadas por inteligência artificial estão cada vez mais difíceis de identificar, alertaram especialistas da Meta e da OpenAI às autoridades dos Estados Unidos na semana passada.
O avanço de tecnologias capazes de produzir imagens, vídeos e gravações de áudio extremamente realistas preocupa o sistema judicial americano, que poderá enfrentar dificuldades cada vez maiores para determinar se materiais apresentados em processos são verdadeiros ou manipulados.
Inteligência artificial produz provas falsas e deixa autoridades em alerta
O assunto foi discutido na última quinta-feira (15), durante um encontro do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, realizado em Boston.
Representantes das empresas explicaram que a evolução dos sistemas de IA está reduzindo a eficácia dos métodos utilizados para reconhecer conteúdos fabricados digitalmente.
Shira Anderson, advogada responsável por políticas públicas na OpenAI, afirmou que a qualidade das imagens sintéticas está avançando rapidamente. Na avaliação dela, pode chegar um momento em que não existam técnicas científicas suficientemente confiáveis para diferenciar uma imagem artificial de uma fotografia verdadeira.
A preocupação foi compartilhada por Devin Norder, diretor de gerenciamento de produtos da Meta. Ele explicou que os sistemas mais sofisticados já conseguem produzir materiais visualmente semelhantes aos registros autênticos, dificultando a identificação de alterações apenas pela observação humana.
Na prática, isso significa que uma gravação fabricada poderá simular acontecimentos, declarações ou comportamentos que nunca ocorreram. Como a produção desses arquivos exige cada vez menos recursos financeiros e tempo, também aumenta a possibilidade de tentativas de fraude envolvendo documentos audiovisuais utilizados em disputas judiciais.
Embora o risco seja crescente, sua presença nos tribunais americanos ainda é limitada. Um levantamento divulgado em março pelo Centro Judicial Federal mostrou que, entre 931 magistrados consultados, somente 15 haviam participado de processos com questionamentos sobre possíveis deepfakes.
Justiça dos EUA estuda soluções
Diante desse cenário, o juiz Jesse Furman, responsável pelo comitê, determinou a formação de um grupo específico para estudar o assunto. A iniciativa busca avaliar se os procedimentos atuais conseguirão acompanhar as transformações tecnológicas.
Uma das alternativas discutidas envolve mecanismos digitais de autenticação, incluindo marcas d’água inseridas em conteúdos produzidos por IA. Entretanto, a ausência de padrões compartilhados entre as empresas impede que essas soluções funcionem universalmente.
A juíza Valerie Caproni defendeu prudência antes da adoção de novas exigências. Para ela, as regras existentes já oferecem instrumentos contra evidências fraudulentas, enquanto faltam ocorrências suficientes para justificar mudanças imediatas.
O desafio central será garantir decisões judiciais fundamentadas em provas confiáveis, mesmo diante de falsificações digitais progressivamente mais convincentes.
