Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, deixou a corrida pelo desenvolvimento de inteligência artificial com um alerta sobre os riscos de uma eventual superinteligência. Aos 27 anos, ele pediu demissão da Anthropic depois de três anos trabalhando no treinamento de modelos nas duas empresas.
Coxon afirma que as companhias avançam em direção a sistemas capazes de melhorar a si próprios, apesar dos riscos envolvidos. Para ele, executivos e cientistas que trabalham com os modelos mais avançados reconhecem, em conversas privadas, a possibilidade de uma catástrofe ainda nesta década, mas adotam uma postura mais cautelosa em declarações públicas.
“Nem uma nem outra empresa está agindo de forma responsável”, escreveu o ex-pesquisador.
Disputa entre empresas
A crítica de Coxon se concentra na competição entre os laboratórios. Segundo ele, a Anthropic conhece os riscos, mas continua acelerando o desenvolvimento por temer que uma concorrente alcance primeiro a superinteligência e faça isso de maneira menos segura. Na OpenAI, afirma, parte da organização ainda não teria compreendido completamente a gravidade das possíveis consequências.
O relato foi acompanhado por uma declaração pública de Evan Hubinger, líder de Alignment Science da Anthropic. Hubinger disse acreditar que existe mais de 10% de chance de uma inteligência artificial provocar a morte de toda a humanidade na próxima década. Ele também reconheceu que a empresa ainda não encontrou uma forma de garantir o controle de uma eventual superinteligência.
Hubinger avaliou que os modelos disponíveis atualmente oferecem risco baixo. A preocupação está em uma fase posterior, com sistemas capazes de aperfeiçoar repetidamente o próprio funcionamento e acelerar o desenvolvimento sem que os pesquisadores mantenham domínio equivalente sobre seu comportamento.
Coxon decidiu expor essa contradição ao deixar a indústria: empresas que investem na criação de uma inteligência superior à humana são comandadas e abastecidas por pesquisadores que consideram relevante a possibilidade de uma catástrofe. Ainda assim, a disputa pelo avanço tecnológico continua.
