A Anthropic informou que seu modelo de inteligência artificial Claude foi usado indevidamente por agentes ligados a países como Irã, Rússia, China e Iêmen, além de hackers, em atividades militares, desenvolvimento de armas biológicas, vigilância em massa e ciberataques. Os casos foram registrados nos últimos doze meses e não envolveram os modelos mais avançados da empresa, Fable e Mythos.
A informação consta em um relatório divulgado na quinta-feira (10) pela equipe de inteligência de ameaças da Anthropic. Entre as tentativas identificadas estão a criação de enxames de drones kamikaze, softwares para monitoramento estatal e programas relacionados a mísseis.
Armas e operações militares
Usuários na Rússia, que segundo a empresa não tinham vínculo com o Estado, tentaram desenvolver um software para um enxame de drones kamikaze autônomos em primeira pessoa, treinados com imagens de combate na Ucrânia.
O relatório também descreve cinco estudos de caso relacionados a possíveis contribuições para o desenvolvimento de armas biológicas. Entre eles está a tentativa de criar uma versão melhorada do vírus chikungunya, transmitido por mosquitos. A solicitação feita ao Claude buscava ajudar na redação de um pedido de bolsa para pesquisas em um instituto militar de um país não identificado, onde a Anthropic não presta serviços.
A empresa afirmou que os casos biológicos eram “ambíguos” e poderiam envolver pesquisas com intenção científica legítima. Agentes baseados no norte do Iêmen, região controlada pelos houthis, usaram o Claude para desenvolver softwares destinados a diferentes tipos de mísseis. “Não temos evidências de que os agentes tenham conseguido colocar em operação um dispositivo funcional”, disse a Anthropic.
Vigilância e ataques digitais
Agentes ligados a China e Irã tentaram construir sistemas de vigilância. Uma operação associada à China usou o Claude para “rastrear, traçar perfis e recrutar uigures” no Exército Sírio. Já uma unidade iraniana criou um software disfarçado de ferramenta para acompanhar horários de oração.
Em outro episódio, um consultor provavelmente ligado a uma agência de inteligência estatal do Mali usou o modelo para desenvolver um sistema capaz de monitorar cerca de 25 milhões de celulares. A ferramenta gerava “dossiês de inteligência” sobre números específicos sem autorização judicial. A Anthropic baniu a conta, mas informou que a plataforma já havia sido implantada localmente e estava fora de seu controle total.
O relatório ainda cita hackers suspeitos de ligação com serviços de inteligência da Rússia e da China, hacktivistas e cibercriminosos. O grupo Midnight Blizzard, associado aos serviços de inteligência russos, teria usado a IA para automatizar partes de programas maliciosos e criar e-mails de phishing contra alvos militares e de defesa. A gangue ShinyHunters, por sua vez, usou a tecnologia para localizar credenciais vazadas e roubar dados.
A Anthropic afirmou que busca impedir o uso de sua tecnologia para fins nocivos. A postura levou a empresa a um conflito com o Pentágono, que suspendeu a parceria após a recusa em permitir o uso do Claude em vigilância em massa ou sistemas de armas autônomas.
