A Check Point Research (CPR) detectou o que parece ser o 1º caso registrado de malware projetado para driblar sistemas de segurança baseados em inteligência artificial (IA).
Na prática, a ciberameaça faz uso de instruções maliciosas chamadas de “prompt injections” (“injeções de prompt”), uma brecha de segurança que impacta e manipula os modelos de linguagem de grande escala (LLMs).
A descoberta da divisão de pesquisa da Check Point marca uma mudança relevante na estratégia dos hackers e a ascensão de um novo tipo de cibercrime: a IA Evasion ou “evasão de IA”.
Leia também 👉🏽 Pesquisa da IDC revela as principais lacunas e desafios na adoção da IA generativa
Malware evita a detecção e tenta manipular IA
O malware detectado pela CPR continha trechos de texto em linguagem natural diretamente no seu código. Isso significa que a ameaça busca, ativamente, enganar os modelos LLMs e levá-los a classificar o arquivo como inofensivo.
De fato, a tática cibercriminosa foi pensada para atingir fluxos automatizados de análise de malware com suporte de inteligência artificial.
Ainda que a Check Point tenha identificado o malware com sucesso, a descoberta revela como os hackers estão se adaptando à função importante da IA generativa na defesa cibernética.
Segundo os pesquisadores, esse pode ser apenas o começo de uma série de novas técnicas desenvolvidas para manipular e enganar recursos de detecção baseados em IA.
🔍Para conferir o relatório completo da Check Point Research, clique aqui.
Imagem: Freepik
