OpenAI e Meta alertam Justiça dos EUA sobre risco de provas falsas criadas por inteligência artificial

A evolução acelerada da inteligência artificial está criando um novo desafio para o sistema judiciário: distinguir provas verdadeiras de conteúdos fabricados digitalmente. Representantes da OpenAI, desenvolvedora do ChatGPT, e da Meta, controladora do Facebook, Instagram e WhatsApp, alertaram autoridades judiciais dos Estados Unidos, nesta quinta-feira (15), que vídeos, imagens e gravações de áudio produzidos por inteligência artificial atingiram um nível de realismo capaz de dificultar sua identificação, inclusive por ferramentas especializadas.

O alerta foi apresentado durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, realizada em Boston. O grupo reúne representantes do Judiciário e especialistas que discutem a necessidade de atualizar os critérios utilizados para admitir e avaliar provas em processos judiciais. Desde 2023, o comitê acompanha os riscos associados aos chamados deepfakes, conteúdos sintéticos capazes de reproduzir rostos, vozes e comportamentos humanos com elevado grau de fidelidade.

A preocupação central é que materiais produzidos artificialmente sejam apresentados como registros autênticos de acontecimentos, influenciando investigações, julgamentos e decisões judiciais. Diferentemente das manipulações tradicionais, que frequentemente deixavam sinais perceptíveis de edição, os sistemas atuais conseguem gerar conteúdos visualmente convincentes em poucos minutos, com custos cada vez menores e sem exigir conhecimentos técnicos avançados.

Identificação de imagens falsas se torna cada vez mais difícil

Durante a reunião, Shira Anderson, consultora jurídica de políticas públicas da OpenAI, afirmou que a qualidade das imagens produzidas por inteligência artificial continuará evoluindo, tornando cada vez mais difícil estabelecer métodos científicos capazes de identificar todas as falsificações. A representante destacou que as tecnologias disponíveis para verificar a autenticidade dos conteúdos ainda apresentam limitações e não oferecem garantias absolutas.

A avaliação foi reforçada por Devin Norder, diretor de gerenciamento de produtos da Meta. Segundo o executivo, os conteúdos produzidos pelas gerações mais recentes de modelos avançados de inteligência artificial já podem ser praticamente indistinguíveis de registros autênticos para observadores humanos. Ele também ressaltou que o tempo e o custo necessários para produzir essas imagens e gravações se tornaram relativamente baixos.

Essa combinação amplia os riscos para a Justiça. Uma gravação aparentemente verdadeira pode ser utilizada para atribuir declarações inexistentes a determinada pessoa, enquanto um vídeo artificial pode simular a presença de alguém em um local ou a participação em um acontecimento que nunca ocorreu. Quando materiais dessa natureza são apresentados como provas, a dificuldade de identificação pode comprometer a análise dos fatos.

O problema não se limita à possibilidade de aceitar conteúdos falsificados. Também existe o risco de que provas legítimas sejam contestadas sob a alegação de terem sido produzidas por inteligência artificial. Nesse cenário, a dúvida sobre a autenticidade pode dificultar a responsabilização de envolvidos e aumentar a complexidade dos processos.

Judiciário ainda registra poucos casos, mas teme avanço das falsificações

Apesar dos alertas, o uso de deepfakes como provas fraudulentas ainda não aparece de maneira generalizada nos tribunais americanos. Uma pesquisa divulgada em março pelo Centro Judicial Federal, órgão de pesquisa do Judiciário dos Estados Unidos, mostrou que apenas 15 dos 931 magistrados participantes haviam enfrentado processos nos quais alguma das partes questionou a apresentação de uma prova por suspeita de falsificação com inteligência artificial.

O juiz federal Jesse Furman, de Manhattan, responsável pela presidência do comitê, reconheceu que o tema tem recebido atenção crescente de pesquisadores e especialistas, embora os tribunais ainda não tenham registrado grande quantidade de ocorrências. Para ele, a preocupação precisa ser considerada à luz dos casos efetivamente identificados, evitando que a formulação de novas regras se baseie exclusivamente em previsões.

Os especialistas presentes, entretanto, argumentaram que a ausência de um número elevado de registros não elimina a necessidade de preparação. O desenvolvimento dos modelos generativos tem avançado rapidamente, e as ferramentas utilizadas para produzir conteúdos artificiais estão se tornando mais acessíveis. A expectativa é que os tribunais enfrentem desafios cada vez maiores para verificar a origem e a integridade de arquivos digitais.

O comitê discute, há aproximadamente três anos, como adaptar os procedimentos de autenticação às novas tecnologias. Um dos objetivos é assegurar que provas produzidas por sistemas automatizados sejam submetidas a critérios adequados de confiabilidade, sem comprometer o direito das partes de apresentar documentos, imagens e gravações relevantes para o julgamento.

Marcas digitais ainda não garantem autenticidade

Empresas de tecnologia vêm desenvolvendo mecanismos destinados a identificar conteúdos gerados artificialmente. Entre as soluções estão marcas d’água digitais, metadados de procedência e sistemas capazes de registrar informações sobre a origem e as modificações realizadas em arquivos.

Essas ferramentas procuram permitir que usuários, plataformas e autoridades verifiquem se determinada imagem ou gravação foi criada ou alterada por inteligência artificial. Entretanto, a ausência de padrões universais representa um obstáculo importante. Cada empresa pode adotar tecnologias próprias, dificultando a identificação de conteúdos produzidos por sistemas diferentes.

Shira Anderson explicou que, mesmo com a evolução dos mecanismos de verificação, não existe atualmente uma solução capaz de detectar todas as marcas digitais ou comprovar a autenticidade de qualquer material visual. A representante da OpenAI também demonstrou ceticismo quanto à possibilidade de alcançar um sistema completamente infalível.

A Califórnia e a União Europeia já adotaram medidas legais relacionadas à identificação de conteúdos sintéticos, incluindo exigências de transparência e mecanismos de marcação digital. Essas iniciativas procuram ampliar a rastreabilidade dos arquivos, mas sua eficácia depende da implementação técnica e da capacidade de reconhecer conteúdos provenientes de diferentes plataformas.

Outro desafio está na possibilidade de que arquivos sejam editados, convertidos ou compartilhados repetidamente, alterando informações utilizadas para verificar sua procedência. Por isso, a presença ou ausência de uma marca digital não deve ser considerada, isoladamente, prova definitiva de autenticidade ou falsificação.

Justiça precisará combinar tecnologia e perícia

A discussão nos Estados Unidos evidencia a necessidade de ampliar os procedimentos utilizados para avaliar provas digitais. A identificação de conteúdos manipulados poderá exigir análises periciais, verificação da origem dos arquivos, preservação dos registros originais e exame das circunstâncias em que imagens ou gravações foram produzidas.

Especialistas também destacam a importância da cadeia de custódia, conjunto de procedimentos destinado a documentar a coleta, o armazenamento e o manuseio de evidências. No ambiente digital, essa documentação ajuda a verificar se determinado arquivo sofreu alterações e permite reconstruir seu histórico desde a obtenção até a apresentação em juízo.

A inteligência artificial, nesse contexto, representa um desafio duplo. Ao mesmo tempo em que facilita a criação de falsificações convincentes, também pode auxiliar no desenvolvimento de ferramentas de análise e detecção. Entretanto, a utilização desses sistemas exige validação técnica, pois resultados automatizados podem apresentar erros e não devem substituir a avaliação crítica dos profissionais responsáveis.

A discussão também interessa ao Brasil, onde fotografias, gravações de áudio, vídeos e documentos eletrônicos são utilizados diariamente em investigações e processos judiciais. O avanço dos conteúdos sintéticos amplia a importância da perícia digital e de procedimentos que permitam demonstrar a origem e a integridade das evidências.

Embora as discussões americanas não representem mudanças automáticas na legislação brasileira, elas sinalizam uma preocupação internacional com a confiabilidade das provas em um cenário de crescente utilização da inteligência artificial.

Confiança nas provas será desafio para os próximos anos

O alerta apresentado por OpenAI e Meta demonstra que o impacto da inteligência artificial ultrapassa os setores de tecnologia e comunicação, alcançando instituições responsáveis pela aplicação da Justiça. A capacidade de fabricar imagens, vídeos e vozes com aparência autêntica coloca em discussão procedimentos tradicionalmente utilizados para estabelecer a veracidade de acontecimentos.

O desafio não consiste em rejeitar indiscriminadamente os materiais digitais, mas em desenvolver critérios capazes de distinguir registros legítimos de falsificações, preservando o direito de defesa e a segurança jurídica. Para isso, será necessário combinar ferramentas tecnológicas, conhecimento pericial e regras processuais compatíveis com a evolução dos sistemas generativos.

Enquanto o Judiciário americano discute possíveis atualizações, as empresas responsáveis pelo desenvolvimento dessas tecnologias reconhecem que os mecanismos atuais de detecção possuem limitações importantes. O cenário indica que a confiabilidade das provas digitais dependerá cada vez menos da simples aparência de autenticidade e cada vez mais da possibilidade de comprovar sua origem.

Em uma realidade na qual a inteligência artificial consegue reproduzir acontecimentos que nunca existiram, a capacidade de verificar o que realmente aconteceu tende a se tornar uma das questões centrais para a preservação da confiança nas decisões judiciais.