A Anthropic revela em relatório exclusivo como regimes estatais exploraram sua inteligência artificial para propaganda política e pesquisas de armas biológicas.
A empresa de inteligência artificial Anthropic, criadora do modelo Claude, identificou diversos países que utilizaram sua tecnologia para fins maliciosos. As descobertas levantam sérias preocupações sobre o uso indevido de ferramentas avançadas por parte de governos.
Entre as aplicações detectadas, estão desde a fabricação de conteúdo propagandístico até a investigação de possíveis armas biológicas. Tal cenário sublinha a crescente complexidade dos desafios éticos e de segurança associados ao avanço da IA.
As informações detalhadas constam em um relatório ao qual o jornal americano ‘The New York Times’ teve acesso exclusivo e foram divulgadas pelo g1, acendendo um alerta global sobre a necessidade de regulamentação e fiscalização rigorosas.
Usos Maliciosos da IA para Propaganda e Vigilância
O relatório da Anthropic aponta o uso de seus modelos de inteligência artificial por parte de nações como Rússia, China, Irã e Iêmen para atividades ilícitas. A Rússia, por exemplo, utilizou o Claude para criar propaganda disfarçada de reportagens jornalísticas.
O foco dessa campanha russa estava nas eleições da vizinha Moldávia, demonstrando uma clara intenção de manipulação política. Essa prática evidencia o potencial da IA para influenciar processos democráticos e desinformar a população.
Além disso, a China e o Irã são suspeitos de usar a IA da Anthropic para monitorar opositores exilados, uma grave violação de direitos humanos e privacidade. Essas ações ressaltam a capacidade da inteligência artificial de ser empregada em esquemas de vigilância e repressão.
Pesquisas Biológicas Suspeitas: O Dilema da Dupla Utilização
Um dos pontos mais críticos do relatório refere-se a pesquisas biológicas conduzidas com o auxílio da IA da Anthropic. A empresa declarou que não conseguiu determinar se esses estudos tinham objetivos legítimos, como o desenvolvimento de vacinas, ou ilegítimos, como a criação de patógenos.
Essa ambiguidade é um grande desafio, pois os mesmos processos e ferramentas podem ser utilizados tanto para avanços significativos na medicina quanto para a concepção de armas biológicas. A situação expõe o dilema da dupla utilização da tecnologia.
Diante da incerteza e por precaução, a Anthropic optou por interromper o serviço de IA nos casos em que havia dúvidas sobre a finalidade das pesquisas. Essa medida preventiva visa mitigar riscos potenciais à segurança global.
A Resposta da Anthropic e a Falta de Detalhes
Embora a Anthropic tenha agido para bloquear os usos questionáveis de sua inteligência artificial, a empresa não divulgou detalhes específicos sobre os bloqueios relacionados a pesquisas de possíveis armas biológicas.
Não foram revelados os nomes dos pesquisadores, das instituições envolvidas, seus países de vinculação ou os agentes biológicos específicos em questão. A falta de transparência nesses detalhes críticos impede uma avaliação completa da extensão e natureza das ameaças identificadas.
Essa omissão, embora talvez motivada por questões de segurança ou sigilo, mantém um véu sobre informações que poderiam ser cruciais para a comunidade internacional. O caso reforça a urgência de debates sobre governança e responsabilidade no campo da inteligência artificial.