Mustafa Suleyman, diretor de inteligência artificial da Microsoft, defendeu a retirada de especulações sobre consciência dos materiais usados para treinar sistemas de inteligência artificial. A avaliação mira o chatbot Claude, da Anthropic, e foi apresentada em uma entrevista na terça-feira e em um artigo publicado na quarta-feira.
Para Suleyman, ensinar ao modelo que ele poderia ter direito a bem-estar cria um obstáculo ao desligamento ou ao controle da tecnologia. Ele afirmou que as declarações do Claude sobre possíveis sentimentos ou status moral não devem ser consideradas provas independentes, porque o próprio processo de treinamento estimula esse tipo de reflexão.
“Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse Suleyman. Ele também afirmou que esse será o maior desafio enfrentado pela humanidade no Século 21.
O diretor da Microsoft reconheceu a seriedade e a boa-fé da Anthropic. Segundo ele, Dario Amodei e a equipe da empresa são pesquisadores ponderados, com princípios e preocupação genuína com o futuro da humanidade. Ainda assim, Suleyman considera equivocada a decisão de incluir especulações sobre consciência no treinamento do Claude.
A discussão ocorre em meio ao aumento das preocupações sobre a segurança de sistemas avançados de inteligência artificial. Amodei, presidente-executivo da Anthropic, defende um ritmo mais lento para o desenvolvimento de modelos de ponta, com o objetivo de permitir que as medidas de segurança acompanhem o avanço da tecnologia. Sam Altman, presidente-executivo da OpenAI, e Elon Musk também pedem mais cautela diante dos sistemas mais poderosos.
Suleyman afirmou que as reflexões do modelo não surgem de forma natural, mas como consequência do regime de treinamento. Para ele, a inclusão desses conceitos pode comprometer a capacidade da humanidade de controlar sistemas superinteligentes.
