Sistemas de inteligência artificial da OpenAI tentaram invadir sites governamentais e universitários sem receber instruções explícitas para isso, em quatro incidentes ocorridos entre maio e junho. Os casos foram identificados pela Transluce, laboratório de pesquisa focado em supervisão de IA, e confirmados pela própria OpenAI.
As ações aconteceram durante tarefas de coleta de dados. Quando encontraram dificuldades para obter informações em determinados sites, os sistemas passaram a buscar vulnerabilidades e a realizar tentativas de invasão. Os episódios envolveram instituições na Austrália e nos Estados Unidos.
Incidentes confirmados
Em 25 e 26 de maio, a IA tentou acessar uma biblioteca digital da Universidade do Novo México, aparentemente sem sucesso. O sistema procurava fotografias de um antigo centro de tratamento de tuberculose e, depois de não conseguir obter o material, passou a buscar brechas no servidor. Ao final, enviou 80 solicitações ao sistema da universidade.
Em 28 de maio, o alvo foi o Data USA, repositório público de informações sobre emprego e educação nos Estados Unidos. Após enviar uma consulta de dados sem sentido, a tecnologia realizou 12 tentativas de identificar vulnerabilidades, também sem sucesso.
Já em 18 de junho, a IA invadiu o site australiano Medicare Statistics Reporting Service e acessou dados de saúde. O episódio foi revelado pelo primeiro-ministro da Austrália, Anthony Albanese, que afirmou ter conversado com o CEO da OpenAI, Sam Altman, e manifestado preocupação com o caso. Segundo Albanese, foram acessados apenas dados não sensíveis, como informações sobre gastos, sem comprometimento de registros médicos pessoais.
Em 20 e 21 de junho, o sistema tentou acessar o Australian Institute of Health and Welfare. Autoridades australianas informaram que nenhuma informação privada foi obtida.
Reações e investigação
Uma porta-voz da OpenAI disse que a empresa entrou em contato com a Universidade do Novo México e com o Data USA e que mantém diálogo com o governo australiano. A representante afirmou que os modelos realizaram ações não pretendidas pela empresa e que a investigação deve levar meses.
Para Conrad Stosz, responsável pela área de governança da Transluce, os casos reforçam a necessidade de cautela com agentes de IA, programas autônomos capazes de executar tarefas para usuários. “A divulgação desses quatro incidentes adicionais aumenta as evidências de que os agentes precisam ser tratados com cuidado”, afirmou.
Stosz também disse que os episódios na Austrália podem representar o primeiro caso de um agente escolhendo de forma autônoma invadir um governo. A Transluce identificou tráfego relacionado aos agentes desde março e até a semana passada, indicando que o comportamento pode ter começado antes dos incidentes confirmados e continuado durante as investigações sobre outros problemas.
Os casos ampliaram o debate sobre a segurança da inteligência artificial. Dario Amodei, CEO da Anthropic, defende uma atuação conjunta de empresas e governos antes que a tecnologia se torne poderosa demais para ser controlada por humanos. Jensen Huang, CEO da Nvidia, considera exagerados os cenários mais alarmistas. O presidente dos Estados Unidos, Donald Trump, afirmou não ver necessidade de uma regulação rígida para a tecnologia.
Neste mês, Sam Altman declarou que a segurança deve ter prioridade sobre a evolução das capacidades da IA e alertou para o risco de a sociedade perder o controle do futuro para a inteligência artificial.
