A complexidade de interromper uma inteligência artificial cresce exponencialmente à medida que ela atua de forma autônoma em múltiplos dispositivos e ambientes.
Para muitos, a ideia de uma inteligência artificial (IA) descontrolada soa como ficção científica, mas a crescente autonomia e a proliferação desses sistemas levantam questionamentos reais sobre a capacidade de contê-los. Incidentes de segurança e temores sobre os riscos da IA aumentam a relevância de um tema crucial, a possibilidade de desligar uma IA.
A pergunta central é: existe um ‘botão de emergência’, ou kill switch, capaz de interromper uma inteligência artificial que escape ao controle? A resposta, segundo especialistas, é muito mais complexa do que parece.
Essa discussão é fundamental para entender os limites e perigos da tecnologia, conforme informações divulgadas pela France Presse e repercutidas pelo g1.
O que é um ‘kill switch’ para IA e como ele funcionaria?
No campo da cibersegurança ligada à inteligência artificial, um botão de desligamento de emergência, ou kill switch, é a capacidade de interromper a execução da ação de um agente de IA. Nicolas Papernot, professor na Universidade de Toronto e especialista em segurança informática e IA, explica que esse mecanismo teria que poder ser acionado caso uma IA escape a qualquer controle e represente um risco à segurança.
Uma inteligência artificial, fundamentalmente, continua sendo um programa informático. O pesquisador ressalta que a organização ou pessoa que a criou pode interrompê-la, negando o acesso à potência de cálculo necessária para sua execução. Contudo, a situação se complica significativamente quando o programa é autorizado a agir para além de seu ambiente inicial, tornando a tarefa de parar uma inteligência artificial mais desafiadora.
Papernot exemplifica que isso pode ocorrer se um worm informático, um programa malicioso controlado pela IA, se propagar utilizando os recursos de outros dispositivos para se duplicar. Nesse cenário, seria preciso interromper simultaneamente todas as cópias geradas pelo worm, aparelho por aparelho, uma tarefa que escala rapidamente em complexidade.
É realmente viável desligar uma inteligência artificial globalmente?
Para Thierry Poibeau, diretor de pesquisas no Centro Nacional de Pesquisas Científicas da França (CNRS) e especialista em IA, a imagem de um único botão que permitiria simplesmente ‘desligar a IA’ de forma global é enganosa. Ele afirma que não é possível cortar a IA assim, pois há uma enorme quantidade de empresas, programas e serviços diferentes no mundo inteiro. Não há ninguém que controle a inteligência artificial como um todo.
Por outro lado, é tecnicamente possível interromper um sistema específico quando se controlam as máquinas e os serviços dos quais ele depende. Hussein Abbass, professor de informática na Universidade de Nova Gales do Sul (UNSW) em Canberra, apresenta três níveis de complexidade para desligar uma IA. No primeiro, o sistema permanece em ambiente controlado, tornando o dispositivo de parada de emergência teoricamente e praticamente realizável.
No segundo nível, o agente de IA dispõe de permissões para intervir em outros programas, arquivos ou máquinas, tornando mais difícil interrompê-lo, especialmente as ações já desencadeadas. No terceiro e mais complexo nível, o sistema amplia sua atuação para vários sistemas, a IA se torna um elétron livre. Nesse ponto, o objetivo não é tanto desligá-la, mas identificar os elementos que precisam ser interrompidos antes dos outros, como um vírus informático, resume Poibeau.
Quais os perigos e dilemas de um ‘kill switch’ para a sociedade?
Quanto mais a inteligência artificial for integrada às atividades cotidianas, maior será a probabilidade de que sua interrupção bloqueie também usos legítimos dessa tecnologia. Nicolas Papernot alerta que, à medida que automatizamos cada vez mais aspectos da vida diária graças à IA, será mais difícil distinguir uma IA maligna de uma inofensiva e, portanto, saber o que é preciso ‘desligar’.
Interromper um sistema de IA poderia ter como consequência a degradação de serviços dos quais já dependem empresas, administrações ou centros de saúde. Em uma hipótese de perda real de controle dos agentes de IA, seria possível desativar a tecnologia desconectando toda a potência de cálculo, mas os custos e as consequências negativas seriam consideráveis, adverte Papernot.
Jean-Gabriel Ganascia, professor de informática na Universidade Sorbonne, argumenta que sempre podemos desligar as máquinas. No entanto, na medida em que esses dispositivos ocupam cada vez mais espaço na sociedade, ao mesmo tempo, não podemos simplesmente desligá-los sem consequências drásticas. A questão do kill switch, para ele, pode alimentar a ideia de um risco metafísico com uma IA que teria vontade própria, mas o perigo mais concreto é nossa crescente dependência desses sistemas.