Um chip que usa luz para caçar deepfakes acertou quase 98% e analisa 15 vídeos ao mesmo tempo

Detectar vídeo falso feito por IA costuma exigir computadores potentes e muita energia. Uma equipe da Universidade da Califórnia em Los Angeles (UCLA), liderada pelo professor Aydogan Ozcan, tentou outro caminho: usar luz.

O problema que eles querem resolver

Os detectores de deepfake atuais rodam em computadores comuns e podem precisar de centenas de bilhões de operações para analisar um único vídeo. Pior: eles costumam olhar um vídeo de cada vez. Para uma rede social que recebe milhões de vídeos por dia, isso custa tempo e energia.

Como funciona, passo a passo

1. Um codificador digital leve extrai de cada vídeo as informações que importam: como a imagem muda no espaço, nas cores e ao longo do tempo. 2. Essas informações viram um padrão de luz, exibido num modulador de luz programável. 3. A luz atravessa um decodificador óptico passivo, feito de camadas que desviam a luz de forma calculada. 4. Detectores de luz leem o resultado e dão uma nota de autenticidade para cada vídeo.

A grande vantagem: as camadas ópticas são passivas, ou seja, não gastam energia elétrica durante a análise, e vários vídeos são avaliados na mesma passagem de luz.

Os resultados

| Teste | Resultado | | --- | --- | | 15 vídeos ao mesmo tempo (base Celeb-DF) | 97,79% de acerto | | Sensibilidade (pegar os falsos) | 99,86% | | Especificidade (não acusar os verdadeiros) | 95,72% | | 18 vídeos ao mesmo tempo | 96,13% de acerto | | Vídeos gerados pelo Veo 3, do Google | 94,80% de acerto |

Com duas camadas ópticas extras, o acerto em manipulações mais difíceis subiu cerca de 6,8%. O sistema também resistiu a ruído, desfoque, compressão de imagem e tentativas de enganá-lo.

Um bônus de segurança

Como parte da "inteligência" do sistema fica gravada no próprio hardware óptico, é difícil copiar ou descobrir como ele funciona por dentro. Isso dificulta que alguém crie deepfakes feitos sob medida para enganar o detector.

A letra miúda

• O número de quase 98% vale para aquele teste específico, não para qualquer vídeo ou gerador futuro.
• Para os vídeos do Veo 3, o sistema precisou de um pequeno ajuste antes.
• O sistema é melhor em achar vídeos falsos do que em liberar os verdadeiros, então pode gerar alguns alarmes falsos.
• O estudo não informa o custo do hardware nem testes em grande escala.

Os próprios pesquisadores apresentam o chip como uma primeira triagem, rápida e econômica: os vídeos suspeitos seguiriam para detectores digitais mais pesados. O estudo foi publicado na revista científica eLight.

Por que importa

Com deepfakes cada vez mais convincentes, um filtro barato capaz de olhar muitos vídeos de uma vez pode ajudar plataformas, veículos de imprensa e órgãos de segurança a separar o que precisa de análise mais cuidadosa. É uma ideia que ainda está no laboratório, mas aponta para um jeito novo de enfrentar o problema.