China e Irã utilizaram IA para espionagem, revela Anthropic
Anthropic identifica uso de IA para espionagem internacional
A empresa de inteligência artificial Anthropic revelou que detectou e interrompeu múltiplas operações de vigilância patrocinadas por Estados que utilizavam IA para espionagem contra comunidades específicas. O relatório, publicado esta semana pela companhia sediada em San Francisco, documenta campanhas sofisticadas originadas na China, no Irã e na África Ocidental, identificadas entre janeiro e julho deste ano.
As campanhas de IA para espionagem descobertas pela Anthropic tinham como alvo principal grupos historicamente perseguidos por esses regimes. Segundo o documento da empresa, as operações visavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias iranianas que residem no exterior, bem como opositores políticos do regime iraniano dispersos em outros países.
Métodos sofisticados de vigilância detectados
A investigação da Anthropic revelou técnicas avançadas utilizadas para operacionalizar a IA para espionagem em larga escala. Em um caso específico envolvendo autoridades iranianas, desenvolvedores criaram um método inovador para identificar indivíduos através da análise de suas contas e perfis em plataformas de redes sociais, aumentando significativamente a capacidade de rastreamento de alvos.
Outro incidente documentado ocorreu no Mali, onde um contratado vinculado às autoridades de segurança nacional utilizou o modelo Claude da Anthropic para desenvolver e projetar o software subjacente que possibilitava a coleta sistematizada de inteligência. Este caso exemplifica como a IA para espionagem pode ser integrada em infraestruturas governamentais para vigilância em massa.
Operações chinesas de apropriação de dados
A Anthropic também acusou desenvolvedores chineses de empregar metodologias desonestas para explorar seus modelos. Conforme documentado no relatório, esses indivíduos utilizavam o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, capturavam e "destilavam" esses dados para aprimorar seus próprios modelos de inteligência artificial.
A destilação, termo técnico da indústria, refere-se a um processo onde um modelo de IA treinado é utilizado para treinar outro modelo. Essa prática representa uma forma de apropriação intelectual que viola acordos de uso e prejudica empresas de tecnologia. Desenvolvedores chineses já haviam sido acusados anteriormente de empregar essa técnica sem autorização adequada.
Bloqueios de pesquisa perigosa e atividades ilícitas
Além das operações de vigilância, a Anthropic implementou bloqueios para impedir o uso de IA para espionagem e outras atividades prejudiciais. A empresa detectou e interrompeu tentativas de usuários para desenvolver armas biológicas, realizar pesquisas consideradas problemáticas relacionadas a patógenos, criar golpes românticos automatizados e executar outras formas de fraude online.
A empresa enfatizou seu compromisso com a segurança ao bloquear múltiplas categorias de uso indevido, demonstrando que suas medidas de proteção funcionam continuamente para identificar atividades maliciosas.
Pesquisa biológica suspeita bajo vigilância
Quanto às pesquisas relacionadas a agentes biológicos que a Anthropic detectou e bloqueou, a intencionalidade dos envolvidos permanece ambígua. A empresa optou por não identificar os responsáveis, reconhecendo que divulgar essas informações poderia expor potencialmente cientistas e laboratórios a riscos significativos.
"As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos", explicou o relatório da Anthropic.
Patógenos e agentes biológicos investigados
Os estudos problemáticos bloqueados pela Anthropic concentravam-se em pesquisas relacionadas a diversos agentes biológicos perigosos. Entre eles estavam investigações sobre o vírus chikungunya, transmitido por mosquitos Aedes; trabalhos sobre uma cepa "altamente patogênica" de gripe aviária com potencial pandêmico; estudos sobre uma família viral que inclui a varíola e o mpox; além de pesquisas envolvendo venenos, toxinas e outras substâncias prejudiciais.
Esse conjunto de descobertas sublinha os desafios crescentes enfrentados pelas empresas de IA em proteger suas plataformas contra uso malévolo enquanto mantêm a capacidade de pesquisa legítima.
Implicações para a segurança global de IA
O relatório da Anthropic representa um importante documento sobre as vulnerabilidades emergentes em sistemas de inteligência artificial quando explorados por atores estatais. A descoberta de múltiplas campanhas organizadas de IA para espionagem indica uma tendência crescente de governos aproveitarem essas tecnologias para vigilância política e perseguição de minorias.
As autoridades internacionais de cibersegurança e os órgãos reguladores enfrentam agora pressão adicional para estabelecer normas mais rigorosas sobre o uso de IA em contextos de vigilância governamental. Os incidentes revelados pela Anthropic demonstram que a regulação e a monitorização contínua são essenciais para prevenir o abuso de tecnologias de inteligência artificial em operações de vigilância em massa.