Evan Hubinger, diretor de segurança da Anthropic, estimou em mais de 10% a chance de a inteligência artificial provocar mortes humanas na próxima década. A declaração foi publicada por ele na rede social X em caráter pessoal e acompanhou uma concordância parcial com os alertas feitos por Jacob Coxon, ex-pesquisador da empresa.
“Nós realmente acreditamos que a IA pode matar seres humanos”, afirmou Hubinger. Coxon também relatou ter ouvido executivos e pesquisadores expressarem temor sobre os efeitos da tecnologia, embora adotem uma linguagem mais moderada em entrevistas públicas.
Saída e críticas às empresas
Coxon deixou a Anthropic depois de três anos de trabalho com pré-treinamento de modelos na OpenAI e na própria Anthropic. Em uma publicação, disse que as duas companhias avançam em direção à superinteligência autoaperfeiçoável sem medidas de segurança suficientes e que estariam “apostando com nossas vidas”.
O pesquisador criticou a velocidade do desenvolvimento de sistemas capazes de realizar o chamado autoaperfeiçoamento recursivo. Nesse processo, a inteligência artificial projeta e treina a geração seguinte com pouca ou nenhuma intervenção humana.
Coxon afirmou ainda que os líderes da Anthropic compreendem os riscos envolvidos, mas se sentem presos a uma corrida comercial para chegar primeiro. Segundo ele, essa postura estaria relacionada à desconfiança de que concorrentes adotem medidas responsáveis.
Alteração em compromisso de segurança
A saída ocorreu enquanto a Anthropic se prepara para abrir capital na Bolsa. Em fevereiro, a empresa retirou de sua carta de compromissos de segurança uma cláusula que previa interromper o desenvolvimento de novos modelos quando os riscos não pudessem ser controlados de forma eficaz.
As preocupações apresentadas por Coxon incluem a possibilidade de a IA ter potencial letal. Ele afirmou que pessoas envolvidas no desenvolvimento da tecnologia acreditam que ela poderá matar todos os seres humanos até o final da década, e que esse temor não seria apenas uma estratégia de marketing.
