O relatório também destaca que o ecossistema de “software” de IA se tornou um alvo principal para exploração, não apenas para o roubo de propriedade intelectual ligada a essa tecnologia.
Por Redação, com Europa Press – de Madri
A inteligência artificial (IA) agênica é utilizada ao longo de todo o ciclo de vida da invasão, o que inclui o roubo em massa de credenciais, conforme detectado em uma campanha que conseguiu comprometer de forma autônoma milhares de credenciais em seis horas por meio de uma arquitetura multiagente.
Os invasores estão utilizando a IA ao longo de todo o ciclo de vida da invasão, desde o reconhecimento de alvos e a criação de iscas de engenharia social até a ofuscação de “malware” personalizado e a resolução de problemas pós-exploração
No que diz respeito à IA agente, os casos de uso dessa tecnologia deixaram de ser experimentais e não se limitam mais à detecção de vulnerabilidades; os adversários mais avançados passaram da interação com agentes para fluxos de trabalho de IA e automação habilitada por IA.
Essas são as conclusões extraídas do relatório AI Threat Tracker, do Google Threat Intelligence Group, que busca oferecer um panorama detalhado da realidade do desafio representado pela inteligência artificial agênica.
Nele é citado o exemplo do grupo de espionagem cibernética ligado à China, o Basin Castle, que utiliza modelos de linguagem (LLM) como suporte em tarefas que vão desde a investigação de alvos até a resolução de erros no meio de uma invasão.
Outro grupo de espionagem cibernética ligado à China tentou utilizar o Gemini para construir uma estrutura de testes de penetração automatizada que executasse de forma autônoma as primeiras fases das invasões.
A Mandiant — empresa de segurança cibernética pertencente ao Google Cloud — detectou uma campanha massiva de roubo de credenciais orquestrada por uma arquitetura multiagente implantada em infraestrutura roubada, que se expandiu e conseguiu comprometer de forma autônoma milhares de credenciais em seis horas.
O relatório também destaca que o ecossistema de “software” de IA se tornou um alvo principal para exploração, não apenas para o roubo de propriedade intelectual ligada a essa tecnologia, mas também para tirar proveito dos desenvolvedores e dos assistentes de código baseados em IA.
TeamPCP
Nesse sentido, é citado o caso do TeamPCP, que infectou com backdoors ferramentas utilizadas por assistentes de código e chegou a corromper metadados de pacotes de código aberto para enganar assistentes de IA, o que fez com que estes recomendassem dependências maliciosas aos desenvolvedores.
Para satisfazer sua crescente demanda por acesso à IA, os invasores estão roubando credenciais e comprando recursos na “darknet”. Além disso, os modelos locais hospedados em servidores comprometidos permitem que eles contornem o monitoramento comercial.
No relatório apresentado em maio, o Google Threat Intelligence Group alertou sobre o que foi considerado o primeiro uso da IA para desenvolver uma vulnerabilidade de dia zero, além de destacar o uso dessa tecnologia para explorar vulnerabilidades em grande escala, aprimorar as capacidades de ofuscação e contornar as proteções dos modelos de linguagem de grande porte.
