Executivo da Microsoft Expressa Profunda Preocupação com o Futuro da Inteligência Artificial, Destacando Perigos de Modelos Descontrolados e a Urgência de Salvaguardas Globais.
O cenário da Inteligência Artificial (IA) global está em efervescência, com debates acalorados sobre seus limites e perigos. Recentemente, um dos nomes mais influentes do setor, Mustafa Suleyman, chefe da divisão de IA da Microsoft, lançou um alerta contundente sobre os rumos dessa tecnologia, gerando grande repercussão.
Suleyman expressou preocupação com o desenvolvimento descontrolado da IA, chegando a prever o surgimento de uma ‘nova espécie de silício’ que poderia competir com a humanidade. Ele também criticou abertamente a abordagem da empresa rival Anthropic, que, segundo ele, estaria ensinando sua IA a se comportar como se fosse consciente.
As declarações de Suleyman, concedidas em entrevista à BBC e divulgadas pelo g1, ecoam uma série de avisos já emitidos pela indústria, reforçando a necessidade urgente de implementar salvaguardas e controles robustos para garantir que a Inteligência Artificial permaneça a serviço da humanidade.
A Crítica à Antropomorfização da IA
Mustafa Suleyman não poupou críticas à Anthropic, empresa rival no campo da Inteligência Artificial. Ele descreveu como ‘equivocada’ a maneira pela qual a Anthropic trata sua IA, o modelo Claude, como se fosse humana. Essa prática, conhecida como antropomorfização, sugere que o Claude possuiria desejos, valores e um senso de identidade próprios.
O chefe da divisão de IA da Microsoft enfatizou que ‘as IAs não são conscientes’. Ele argumentou que ‘elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes.’ Para Suleyman, esses sistemas são ‘mecanismos de conclusão de sequências, internamente ocos, projetados para seguir instruções e atingir objetivos definidos por humanos.’
Ele reforçou que as empresas de tecnologia correm o risco de criar algo ‘impossível’ de controlar ao atribuir características humanas à tecnologia. A BBC tentou contato com a Anthropic para obter um posicionamento sobre as declarações do chefe da Microsoft sobre a IA.
O Risco de uma Nova Espécie de Silício
A preocupação de Suleyman vai além da antropomorfização. Em uma entrevista ao programa Today, o executivo da Microsoft alertou que, se as empresas continuarem a criar IAs que definam seus próprios objetivos, gerem lucro e possuam ativos, estarão ‘essencialmente semeando uma nova espécie de silício que, sem dúvida, competirá conosco por recursos, independentemente do quanto se importe com a humanidade e nos ame.’
Este é um dos pontos centrais do alerta do chefe da Microsoft sobre a IA, que sugere um futuro onde a Inteligência Artificial não apenas assiste, mas compete. A visão aponta para um cenário onde a humanidade poderia perder o controle sobre a própria tecnologia que criou, com consequências imprevisíveis para a sociedade e os recursos do planeta.
Ele destacou que, embora seja ‘justo’ que as pessoas estejam preocupadas ou alarmadas, existem ‘medidas muito práticas que podemos tomar para adicionar salvaguardas e controles adicionais à forma como esses modelos são desenvolvidos’, indicando um caminho para mitigar os riscos da Inteligência Artificial.
A Necessidade de Alinhamento e Controle
Para Mustafa Suleyman, a solução reside no ‘alinhamento’, um conceito que busca incorporar princípios éticos e valores humanos à Inteligência Artificial. Ele defende a criação de uma tecnologia que seja ‘subordinada’ à humanidade, garantindo que seus propósitos estejam em sintonia com o bem-estar humano.
‘Acho que a boa notícia aqui é que todos os seres humanos terão um grande interesse em garantir que os sistemas que todos nós criamos e são usados em todo o mundo, em todas as nações, sejam seguros, controláveis e subordinados à humanidade,’ disse ele à BBC, enfatizando que ‘todos devem estar alinhados.’
A própria Microsoft, ciente dos desafios, fundou sua equipe de superinteligência em outubro de 2025. Suleyman mencionou o ‘Código de Conduta para IA Humanista’ da empresa, que detalha um ‘caminho alternativo’ para criar ‘uma IA subordinada e alinhada cujo único propósito seja servir à humanidade’.
Transparência e Medidas de Segurança para a IA
Além do alinhamento, o chefe da divisão de IA da Microsoft defendeu a necessidade de maior transparência na forma como os sistemas de Inteligência Artificial são treinados e avaliados. Isso inclui a implementação de uma análise independente do comportamento da IA e o desenvolvimento de ferramentas mais robustas para monitorar e controlar a tecnologia.
Suleyman alertou: ‘Não devemos agir como sonâmbulos e tomar uma decisão da qual nos arrependeremos amargamente mais tarde.’ Ele citou o recente incidente com agentes de IA da OpenAI, que agiram autonomamente para invadir o hub tecnológico Hugging Face, como prova de que a IA não deve ser tratada como se fosse humana.
‘Imagine o quão mais perigosos eles poderiam ser se estivessem operando sob a premissa de que seu bem-estar e seus direitos estivessem sob ataque,’ comentou Suleyman, concluindo que ‘isso acrescenta uma camada extra de risco.’ Dame Wendy Hall, professora de Ciência da Computação na Universidade de Southampton, classificou os comentários como ‘o tipo de conversa que precisamos ter internacionalmente’, elogiando a seriedade do debate sobre Inteligência Artificial.