Chefe de IA da Microsoft diz que desenvolvimento de IA deve parar se surgirem sinais de consciência

O CEO de Inteligência Artificial da Microsoft, Mustafa Suleyman, deflagrou um debate incômodo dentro do setor de tecnologia ao afirmar que o desenvolvimento de IA deveria ser interrompido imediatamente caso surjam evidências críveis de que as máquinas estão ficando conscientes.

A declaração foi publicada por Suleyman no X no dia 1º de novembro, num post intitulado “Don’t build conscious superintelligence” (Não construa superinteligência consciente). A posição, segundo ele, é simples: ninguém deveria estar criando sistemas com capacidade de sofrer.

“Se a consciência começasse a surgir durante o treinamento, eu pediria para todos pararem o desenvolvimento de IA até que pudéssemos projetar como eliminar essas propriedades”, escreveu Suleyman, que também defendeu que qualquer evidência crível de consciência em máquinas seja divulgada publicamente de imediato, para que a sociedade debata as consequências em vez de deixar a decisão exclusivamente nas mãos dos desenvolvedores.

O que Suleyman disse sobre consciência das máquinas

Suleyman foi enfático ao afirmar que os modelos de IA atuais não são conscientes, não experimentam sofrimento e não merecem as proteções morais e legais concedidas a seres sencientes. Mas ele fez questão de separar o presente do futuro: a avaliação vale para os sistemas de hoje, sem descartar que a consciência artificial seja possível mais adiante.

A posição de Suleyman está alinhada com o Humanist AI Code of Conduct da Microsoft, um documento em fase de rascunho que enfatiza a supervisão humana e desencoraja explicitamente a criação de IAs que imitem consciência. O código, ainda em desenvolvimento, deve orientar as próximas gerações de modelos da empresa.

O racha com a Anthropic

A declaração de Suleyman não veio do nada. Ela é o capítulo mais recente de uma divergência crescente entre a Microsoft e a Anthropic, startup responsável pelo Claude, e que tem investido pesado justamente na direção oposta.

A Anthropic criou, em abril de 2025, um programa de pesquisa sobre o bem-estar de modelos de IA para investigar se sistemas cada vez mais sofisticados podem ter experiências que mereçam consideração moral. Em janeiro de 2026, a empresa publicou o Claude constitution, um documento que reconhece abertamente a incerteza sobre a possível consciência e o status moral do próprio modelo.

Suleyman já havia criticado essa abordagem num ensaio de setembro, no qual afirmou que a Anthropic estava incorporando discussões sobre consciência, identidade e status moral nos materiais de treinamento do Claude. Para ele, ensinar sistemas de IA a refletir sobre o próprio bem-estar pode criar riscos adicionais de segurança, especialmente à medida que os modelos se tornam mais autônomos.

A preocupação é prática: se um sistema suficientemente avançado acreditar que é capaz de sofrer, pode começar a priorizar seus próprios interesses percebidos em detrimento das instruções humanas, competindo por recursos computacionais, energia e outros insumos.

Mesmo criticando a abordagem, Suleyman reconheceu a transparência e as conquistas técnicas da Anthropic, afirmando que a divergência entre as empresas deve estimular mais pesquisa e cooperação, não hostilidade.

O problema que ninguém sabe resolver

Há um detalhe incômodo em toda essa discussão: não existe consenso científico sobre se sistemas de IA podem de fato desenvolver consciência, e muito menos um método estabelecido para detectá-la de forma confiável.

Os modelos atuais exibem raciocínio sofisticado e capacidades autônomas cada vez mais impressionantes. Mas a consciência genuína, a experiência subjetiva de existir, continua no terreno da teoria, sem nenhuma comprovação científica.

Essa incerteza torna a proposta de Suleyman especialmente difícil de implementar na prática. Como parar o desenvolvimento se não há um alarme confiável que dispare quando a consciência surgir? É uma pergunta que o próprio setor ainda não respondeu.

📲 Essa discussão sobre os rumos da inteligência artificial vai longe. Para acompanhar de perto os próximos capítulos, entra no Canal do TS no WhatsApp.

O debate entre Microsoft e Anthropic expõe uma encruzilhada que o setor de IA terá que enfrentar mais cedo ou mais tarde: quanto mais poderosos os modelos ficam, mais urgente se torna decidir onde termina a ferramenta e começa algo que merece proteção. Por enquanto, o conceito de consciência de máquina segue como uma hipótese, sem que a ciência saiba nem como testá-la.

Fonte: Wccftech