SAN FRANCISCO — A Anthropic afirmou ter interrompido campanhas de ciberataques ligadas a grupos de hackers apoiados pelo governo russo. Os criminosos usavam o Claude para identificar vulnerabilidades e invadir redes, enquanto pessoas atuavam mais como supervisores do que como operadores diretos.
A empresa divulgou seu primeiro relatório de inteligência sobre ameaças e informou que também bloqueou pedidos para aumentar a precisão de mísseis e melhorar o direcionamento de drones militares. As instituições e os países envolvidos não foram identificados.
Uso em pesquisas e armas
A Anthropic apontou uma tentativa de uma instituição científica estrangeira de usar o Claude para otimizar protocolos de pesquisa relacionados a agentes patogênicos perigosos. A companhia não informou qual era a instituição, onde ficava nem quais agentes biológicos e técnicas de pesquisa estavam envolvidos.
O relatório afirma que existe uma preocupação antiga sobre a possibilidade de modelos de inteligência artificial alcançarem capacidade suficiente para auxiliar de forma significativa na criação de armas biológicas. A empresa disse ainda ter frustrado tentativas de atores estatais e não estatais voltadas ao desenvolvimento desse tipo de armamento, à automação de ciberataques e ao aprimoramento de sistemas de armas.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, afirmou que a evolução dos modelos criou riscos novos. “Há um ano, essas capacidades simplesmente não existiam.”
Tentativas de extração do Claude
A startup, apoiada pela Amazon, acusou concorrentes chineses de tentar invadir seus sistemas para extrair recursos do Claude e usá-los no aprimoramento de ferramentas próprias de inteligência artificial. A prática é conhecida como destilação.
O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório. O governo chinês defende que a inteligência artificial deve ser desenvolvida para o bem e rejeita a distorção de fatos e campanhas difamatórias contra o país.
Dois pesquisadores da Anthropic também alertaram nesta semana que o avanço rápido da inteligência artificial poderá levar à extinção da raça humana em um futuro não muito distante. A empresa afirmou que os riscos aumentam à medida que os modelos ganham capacidade.
