Check Point Software trava ações perigosas de agentes de IA em apenas 50 milissegundos

Check Point Software trava ações perigosas de agentes de IA em apenas 50 milissegundos

A Check Point Software acaba de anunciar uma nova tecnologia de proteção contextual desenhada especificamente para monitorizar e bloquear ações perigosas de agentes de IA em tempo real, garantindo a segurança em apenas 50 milissegundos.

A ascensão dos agentes de IA e os novos desafios de segurança

Os agentes de inteligência artificial (IA) deixaram de ser meros assistentes de conversação para se tornarem componentes ativos nas infraestruturas tecnológicas. Atualmente, estes agentes já têm capacidade para escrever código de forma autónoma, aceder a sistemas de produção críticos e executar ações que têm um impacto real e imediato nas operações de uma empresa. No entanto, esta autonomia traz consigo riscos significativos que as ferramentas de segurança tradicionais têm dificuldade em acompanhar.

O grande desafio identificado pela Check Point Software reside na subtileza das ameaças. Muitas vezes, cada passo individual dado por um agente de IA parece legítimo e está dentro das permissões concedidas. Contudo, a sequência lógica dessas ações pode resultar numa fuga de dados massiva ou numa operação não autorizada. É neste cenário de complexidade que a nova solução da Check Point Software intervém, analisando não apenas a ação isolada, mas todo o contexto que a envolve.

Como funciona a proteção contextual da Check Point Software

A nova abordagem da Check Point Software baseia-se numa análise profunda e extremamente rápida. Em cerca de 50 milissegundos, o sistema é capaz de avaliar uma série de variáveis críticas antes de permitir que o agente de IA execute a sua próxima tarefa. Esta velocidade é crucial para não interromper o fluxo de trabalho das equipas de desenvolvimento e operações, mantendo simultaneamente um nível de segurança impenetrável.

Critérios de análise em tempo real

Para determinar se uma ação é segura, a solução da Check Point Software avalia os seguintes pontos:

  • Intenção do utilizador: Verifica se o que o agente está a tentar fazer corresponde efetivamente ao que o utilizador humano solicitou inicialmente.
  • Histórico do agente: Analisa o comportamento prévio da IA para detetar desvios ou padrões suspeitos que possam indicar um comprometimento.
  • Informação consultada: Monitoriza que tipo de dados estão a ser acedidos, garantindo que informações sensíveis não são expostas indevidamente.
  • Políticas empresariais: Cruza a ação pretendida com as regras de governança e segurança estabelecidas pela organização.
  • Ação seguinte: Preve o impacto da execução para travar comportamentos destrutivos antes que ocorram.

Casos reais: Quando a Check Point Software impede o desastre

A Check Point Software partilhou cenários reais onde esta tecnologia foi posta à prova com sucesso. Num dos casos, um agente de IA acedeu de forma legítima a registos de produção — uma tarefa comum para diagnóstico de erros. No entanto, o agente guardou essa informação sensível e tentou, logo de seguida, utilizá-la num sistema público. Sem a proteção contextual da Check Point Software, esta fuga de dados teria passado despercebida, uma vez que o acesso inicial era autorizado.

Outro exemplo envolveu uma tentativa de carregamento direto de ficheiros para um bucket S3 (um serviço de armazenamento na nuvem). O agente de IA tentou realizar esta operação apesar de o utilizador não o ter solicitado e de as políticas da empresa exigirem explicitamente que qualquer carregamento de código ou ficheiros passasse primeiro pelo GitLab para revisão. A Check Point Software identificou a violação do processo e bloqueou a ação em milissegundos, evitando a criação de uma vulnerabilidade na infraestrutura.

Prevenir comandos destrutivos e alterações de permissões

Para além das fugas de dados, a tecnologia da Check Point Software foca-se em impedir alterações de permissões não autorizadas. Um agente de IA, ao tentar resolver um problema de acesso, pode decidir de forma autónoma elevar privilégios de uma conta, criando uma porta aberta para futuros ataques. Da mesma forma, comandos destrutivos que podem apagar bases de dados ou interromper serviços críticos são intercetados pela camada de proteção contextual, que reconhece que tais ações não fazem parte do escopo operacional seguro.

O impacto da nova solução da Check Point Software nas empresas portuguesas

Para o mercado em Portugal, onde a adoção de ferramentas de IA generativa e agentes autónomos está a crescer rapidamente nas equipas de desenvolvimento, esta inovação da Check Point Software representa um passo vital. Permite que as empresas aproveitem os ganhos de produtividade da IA sem exporem os seus segredos comerciais ou dados de clientes a riscos desnecessários.

A capacidade de resposta em 50 milissegundos significa que a segurança deixa de ser um entrave à agilidade. As equipas podem confiar que, mesmo que um agente de IA cometa um erro lógico ou seja induzido a comportamentos de risco, existe uma rede de segurança capaz de atuar antes da execução do dano. Esta proteção é especialmente relevante para setores altamente regulados, onde a conformidade com o RGPD e outras normas de proteção de dados é obrigatória.

Perguntas Frequentes

O que é a proteção contextual mencionada pela Check Point Software?

É uma tecnologia de segurança que não olha apenas para comandos isolados, mas analisa o histórico, a intenção do utilizador e as políticas da empresa para decidir se uma ação de um agente de IA deve ser permitida ou bloqueada.

Por que é que o tempo de 50 milissegundos é importante?

Este tempo de resposta garante que a segurança acontece quase instantaneamente, permitindo que a inteligência artificial trabalhe com rapidez sem que a verificação de segurança cause atrasos percetíveis na produtividade dos utilizadores.

O que é o GitLab e o bucket S3 referidos no comunicado?

O GitLab é uma plataforma de gestão de código onde os programadores colaboram, e um bucket S3 é um serviço de armazenamento de ficheiros na nuvem da Amazon. A Check Point Software utiliza estes exemplos para mostrar como impede que a IA ignore os processos de segurança estabelecidos entre estas ferramentas.

Leia também no netthings.pt

Google News

Siga o NetThings no Google News

Fique a par de todas as novidades tecnológicas em tempo real.

⭐ SEGUIR NO GOOGLE NEWS

Acompanhe-nos também em:

-->