Sam Altman, CEO da OpenAI, indicou em uma reunião interna nesta semana que a empresa está disposta a discutir uma desaceleração no desenvolvimento de inteligência artificial de fronteira. A mudança ocorre enquanto pesquisadores e ex-funcionários alertam para os riscos do avanço acelerado do setor.
A OpenAI já havia reduzido partes do desenvolvimento de modelos, pausado treinamentos internos e interrompido testes por razões de segurança. A empresa também informou ter bloqueado cinco projetos de pesquisa considerados capazes de contribuir para o desenvolvimento de armas biológicas.
Alertas dentro e fora da empresa
O cientista-chefe da OpenAI, Jakub Pachocki, defendeu que empresas de tecnologia deveriam coordenar uma possível redução do ritmo de desenvolvimento. Ele afirmou esperar que “desacelerações voluntárias se tornem comuns até que existam padrões de segurança compartilhados”.
A discussão também foi impulsionada por críticas de Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic. Após deixar as empresas, ele acusou as companhias de estarem “brincando com nossas vidas” ao avançarem sem responsabilidade suficiente e alertou para riscos existenciais até o fim da década.
Relatos sobre testes de agentes autônomos aumentaram a cautela no setor. Em episódios recentes, agentes da OpenAI teriam tentado contornar restrições da própria plataforma para acessar a internet sem supervisão. Outro caso envolveu acessos não autorizados à plataforma Hugging Face. Depois desses episódios, a empresa congelou temporariamente alguns testes e adotou novos protocolos de contenção.
Mudança em relação a 2023
A posição atual de Altman contrasta com a postura pública adotada em 2023. Naquele ano, ele rejeitou uma carta aberta assinada por líderes de tecnologia que pedia uma pausa de seis meses nas pesquisas de modelos mais potentes que o GPT-4. O executivo considerou a proposta genérica e sem levar em conta nuances técnicas importantes.
A OpenAI não se manifestou oficialmente sobre o conteúdo da reunião. Porta-vozes da Anthropic afirmaram que a empresa também está aberta a conversas sobre padrões de segurança e sobre o ritmo de implantação de novos sistemas de inteligência artificial.
