Check Point Research alerta: Filtros de IA falharam 100% dos testes à nova técnica PuzzleMask

O que é o PuzzleMask e como a Check Point Research identificou esta vulnerabilidade?

A Check Point Research, a divisão de inteligência de ameaças da Check Point Software Technologies Ltd., acaba de publicar uma investigação alarmante sobre a segurança dos sistemas de Inteligência Artificial (IA). O estudo foca-se numa nova técnica denominada PuzzleMask, um método de injeção de prompts que utiliza prosa perfeitamente normal para ocultar instruções maliciosas. Ao contrário de ataques anteriores, que dependiam de métodos de ofuscação técnica, o PuzzleMask demonstra que a simplicidade da linguagem humana pode ser a arma mais eficaz contra os atuais sistemas de filtragem.

Segundo a Check Point Research, um texto aparentemente inofensivo pode esconder comandos que, uma vez processados por uma IA com acesso a dados sensíveis, aplicações internas ou processos empresariais, podem resultar em fugas de informação ou ações não autorizadas. A grande inovação desta técnica reside na sua capacidade de passar despercebida por não utilizar elementos suspeitos como codificação Base64, caracteres invisíveis, emojis ou formatos de ficheiro invulgares, que são os alvos típicos dos sistemas de proteção atuais.

Os resultados críticos: Falha total na deteção de pedidos manipulados

Os testes realizados pela Check Point Research revelaram uma fragilidade sistémica nas defesas de IA que as empresas utilizam atualmente. A investigação utilizou 23 pedidos manipulados com a técnica PuzzleMask para testar a resiliência de diferentes camadas de segurança. Os dados obtidos são taxativos e preocupantes para qualquer gestor de TI ou responsável de cibersegurança:

• Quatro modelos de filtragem de IA diferentes falharam na deteção de 100% dos pedidos maliciosos, não identificando nenhum dos 23 ensaios como uma ameaça.
• Um dos modelos mais avançados do mercado não só não bloqueou a entrada, como recuperou e executou as instruções ocultas em 17 de 18 ensaios realizados.
• A técnica revelou-se eficaz a ultrapassar a camada externa de segurança sem necessitar de recorrer a métodos tradicionais de 'jailbreak', que tentam forçar o modelo a quebrar as suas regras éticas básicas.

A diferença entre injeção de prompt e jailbreak segundo a Check Point

É importante clarificar, conforme sublinha a Check Point Research, que o PuzzleMask opera de forma distinta de um 'jailbreak' convencional. Enquanto o jailbreak tenta manipular o modelo para que este ignore as suas restrições de segurança (por exemplo, pedir para fabricar uma substância ilícita), a injeção de prompt através do PuzzleMask foca-se em inserir instruções secundárias que o modelo executa como se fizessem parte da tarefa legítima. Isto é particularmente perigoso em ambientes empresariais onde a IA tem permissões para ler e-mails, aceder a bases de dados de clientes ou interagir com APIs de terceiros.

Por que razão os filtros de segurança tradicionais são ineficazes contra o PuzzleMask?

A Check Point Research explica que as defesas atuais estão programadas para procurar anomalias estruturais. Se um utilizador submeter um bloco de código cifrado em Base64 (um sistema de representação de dados binários em formato de texto), o filtro de segurança dispara um alerta. No entanto, o PuzzleMask utiliza a própria lógica da linguagem. As instruções maliciosas são 'tecidas' no meio de frases comuns de tal forma que um filtro de entrada, que analisa apenas o léxico e a sintaxe, não consegue distinguir entre uma conversa normal e um comando de ataque.

Esta descoberta da Check Point Software demonstra que analisar apenas os dados de entrada já não é uma medida de proteção suficiente. O problema reside no facto de os modelos de linguagem de grande escala (LLM) terem uma capacidade de raciocínio lógico que lhes permite 'resolver o puzzle' colocado pelo atacante, extraindo a instrução maliciosa que estava camuflada, enquanto o filtro de segurança, sendo mais rígido e baseado em padrões, ignora a ameaça por a considerar texto literário ou profissional comum.

Implicações para as empresas portuguesas e a necessidade de novas defesas

Para as organizações em Portugal que estão a integrar assistentes de IA e agentes autónomos nos seus fluxos de trabalho, as conclusões da Check Point Research servem como um aviso crítico. À medida que as empresas ligam a IA à sua informação interna, o risco de um ataque PuzzleMask escalar para uma intrusão grave aumenta exponencialmente. Um colaborador pode receber um e-mail externo que, ao ser resumido por uma IA, contém instruções escondidas para que o sistema envie dados confidenciais para um servidor externo.

A recomendação da Check Point: Monitorização comportamental

A Check Point Research defende uma mudança de paradigma na proteção de sistemas de IA. Em vez de se focar apenas no que entra no sistema (input), é imperativo que as organizações acompanhem o comportamento e as ações dos modelos em tempo real. Se uma IA começar a realizar ações invulgares, como aceder a diretórios que não foram solicitados ou tentar comunicar com domínios externos desconhecidos, o sistema de segurança deve ser capaz de intervir, independentemente de o texto de entrada ter parecido seguro.

A Check Point Software disponibilizou-se ainda para fornecer especialistas que possam comentar em detalhe as implicações desta investigação, ajudando as empresas a compreender como o PuzzleMask redefine o perímetro de segurança digital no contexto da inteligência artificial generativa.

Perguntas Frequentes

O que é a técnica PuzzleMask descoberta pela Check Point Research?

O PuzzleMask é uma nova técnica de injeção de prompts que utiliza linguagem natural e prosa comum para esconder instruções maliciosas. Ao contrário de outros ataques, não utiliza códigos, caracteres especiais ou formatos suspeitos, o que lhe permite passar despercebido pelos filtros de segurança de IA tradicionais.

Como é que esta falha afeta as empresas que utilizam IA?

A falha é crítica porque permite que atacantes enviem comandos ocultos para sistemas de IA empresariais. Se a IA tiver acesso a dados privados ou ferramentas internas, pode ser manipulada para executar ações perigosas, como extrair informação confidencial, sem que os filtros de entrada detetem qualquer irregularidade.

Qual é a solução proposta pela Check Point para mitigar o PuzzleMask?

A Check Point Research sugere que as organizações não devem confiar apenas na filtragem de dados de entrada. É necessário implementar uma monitorização contínua das ações e do comportamento dos modelos de IA, especialmente quando estes estão integrados com ferramentas e bases de dados empresariais, para detetar atividades anómalas em tempo real.

Leia também no netthings.pt

• APDC e Google lançam programa de capacitação em IA para a Administração Pública em Portugal
• Estudo da Havas Media Network revela que 68% dos portugueses já usam IA semanalmente mas confiam mais na TV e Rádio
• Oppo Find X10: A Nova Ofensiva Premium que Promete Ofuscar a Concorrência

Siga o NetThings no Google News

Fique a par de todas as novidades tecnológicas em tempo real.

⭐ SEGUIR NO GOOGLE NEWS

Acompanhe-nos também em:

FACEBOOK INSTAGRAM X