O Pentágono Quer Usar IA para Criar Usuários Falsos na Internet
O Departamento de Defesa dos EUA está em busca de tecnologias que permitam criar perfis online fictícios, praticamente indistinguíveis de pessoas reais. Segundo um documento revisado pelo The Intercept, o Comando de Operações Especiais dos EUA está procurando empresas para desenvolver usuários “deepfake” na internet que sejam convincentes o bastante para enganar tanto humanos quanto sistemas automatizados.
No documento de 76 páginas, elaborado pelo Comando Conjunto de Operações Especiais (JSOC), são especificadas tecnologias avançadas para ações militares de elite e sigilosas. O texto menciona o interesse das Forças de Operações Especiais (SOF) em desenvolver perfis falsos para serem usados em redes sociais, fóruns e outros ambientes online.
O documento detalha que o JSOC deseja criar perfis que pareçam únicos e humanos, mas que não existam no mundo real. Cada perfil falso deve incluir várias expressões faciais e fotos de qualidade semelhante a uma identificação oficial. Além de imagens estáticas, o JSOC quer incorporar imagens e vídeos de fundo e em camadas, além de vídeos no estilo “selfie”, criando um ambiente virtual que seja indetectável por algoritmos de redes sociais.
O Pentágono já foi flagrado utilizando perfis falsos nas redes sociais para promover seus interesses. Em 2022, o Meta e o Twitter removeram uma rede de contas falsas operadas pelo Comando Central dos EUA, algumas das quais usavam imagens criadas por técnicas semelhantes às solicitadas pelo JSOC. Em 2024, uma investigação revelou que o Comando de Operações Especiais estava utilizando usuários fictícios para enfraquecer a confiança estrangeira na vacina contra Covid da China.
No ano passado, o Comando de Operações Especiais mostrou interesse em “deepfakes” – imagens e vídeos sintetizados para parecerem gravações reais – para operações de influência, engano digital e desinformação. Esse tipo de imagem é gerado através de técnicas de aprendizado de máquina que analisam vastas bases de dados de rostos e corpos humanos. Neste ano, o documento do SOCOM menciona interesse em um software semelhante ao StyleGAN, uma ferramenta da Nvidia lançada em 2019 que gerou o popular site “This Person Does Not Exist”. Logo após o lançamento do StyleGAN, o Facebook afirmou ter desativado uma rede de contas que usava o software para criar fotos de perfil falsas.
Apesar do interesse em deepfakes, autoridades de segurança dos EUA classificam o uso de mídias sintéticas como uma ameaça urgente, especialmente quando empregadas por outros países. Em setembro, uma declaração conjunta da NSA, FBI e CISA alertou que mídias sintéticas, como deepfakes, representam um risco crescente para a tecnologia e comunicação moderna. Recentemente, o Departamento de Defesa dos EUA buscou ajuda do setor privado para combater deepfakes, apontando para os riscos de desinformação, fraude e engano.
O uso ofensivo dessa tecnologia pelos EUA provavelmente incentivará sua proliferação e normalização como uma ferramenta para todos os governos. Segundo Heidy Khlaaf, chefe científica de IA no Instituto AI Now, “não há usos legítimos para essa tecnologia além do engano” e ver o exército dos EUA adotando-a é preocupante. Essa atitude poderá estimular outros exércitos e adversários a fazerem o mesmo, dificultando a distinção entre verdade e ficção na sociedade e complicando ainda mais o cenário geopolítico.
Rússia e China já foram flagradas utilizando vídeos deepfake em suas campanhas de propaganda online, o que levou o Departamento de Estado dos EUA a anunciar um “Marco para Combater Manipulação de Informação de Estados Estrangeiros”. O interesse do SOCOM em deepfakes destaca uma tensão fundamental dentro do governo dos EUA: enquanto uma parte busca manter a credibilidade das informações públicas, outra é encarregada de operações de engano.