Agentic AI e segurança empresarial: Commvault revela os riscos e benefícios da sua utilização

Segundo Pranay Ahlawat, Diretor de Tecnologia e IA da Commvault, a segurança deve evoluir ao mesmo ritmo que a adoção da Agentic AI, integrando a governação, os testes e a recuperação como princípios fundamentais

De acordo com a Commvault (NASDAQ: CVLT), líder em resiliência unificada à escala empresarial, a Agentic AI – a nova geração de modelos capazes de raciocinar, planear e agir de forma autónoma – está a redefinir a cibersegurança a um ritmo sem precedentes. Embora já impulsione melhorias significativas na deteção de ameaças e na eficiência dos centros de operações de segurança (SOC), também amplia a superfície de ataque e levanta novos desafios ao nível da governação e da resiliência.

Um ponto de viragem tecnológico

Empresas como OpenAI, Google e Anthropic desenvolveram modelos de raciocínio capazes de analisar o contexto, decompor problemas e executar ações de forma autónoma. Combinados com estruturas emergentes como o Protocolo de Contexto de Modelos (MCP), estes sistemas podem interagir diretamente com ferramentas empresariais como ERP, CRM e data lakes.

O resultado: agentes que executam processos complexos com intervenção humana mínima. Segundo a McKinsey & Company, a Agentic AI é uma das tendências tecnológicas com crescimento mais acelerado, com capacidade para transformar a produtividade e a tomada de decisão. Contudo, esta evolução também aumenta a exposição ao risco.

Novas ameaças: mais rápidas e sofisticadas

De acordo com Pranay Ahlawat, Diretor de Tecnologia e IA da Commvault, a Agentic AI está a acelerar e a sofisticar os ciberataques de diversas formas:

Automatização avançada de phishing e ransomware: os atacantes recorrem a agentes adaptativos capazes de identificar vulnerabilidades e ajustar estratégias em tempo real.
Ataques autónomos documentados: um relatório recente de inteligência de ameaças da Anthropic revelou a utilização da sua plataforma Claude Code para desenvolver um sistema autónomo de roubo de dados dirigido a 17 organizações, incluindo hospitais e entidades governamentais.
Exposição ampliada na cadeia de abastecimento: a integração de múltiplas API e extensões aumenta os pontos de dependência e risco.
Manipulação adversária: os agentes podem ser vulneráveis a injeções de prompts, envenenamento de modelos ou manipulação de dados.
Proliferação de identidades de máquina: cada agente requer credenciais e permissões próprias, aumentando a complexidade da governação.

A isto soma-se o fenómeno da “IA na sombra”: um estudo da KPMG indica que 57% dos colaboradores ocultam a utilização de ferramentas de IA, o que gera riscos operacionais e reputacionais.

Quatro imperativos para a resiliência na era da IA

Na perspetiva de Pranay Ahlawat, as organizações só conseguirão adotar a Agentic AI com segurança se se concentrarem no seguinte:

Visibilidade e controlo: manter uma observabilidade clara das operações de IA, especialmente dos agentes autónomos que atuam em sistemas críticos.
Reversão e contenção: criar mecanismos de reversibilidade quando os agentes de IA cometem erros ou ultrapassam o âmbito previsto.
Proteção de dados resiliente: redesenhar as estratégias de cópia de segurança, recuperação e resiliência para incluir cargas de trabalho e sistemas de decisão suportados por IA.
Governação e capacitação: estabelecer responsabilidade clara pelas ações da IA, alinhar com frameworks (NIST, ISO, MITRE, OWASP) e formar os colaboradores para trabalharem eficazmente em conjunto com os agentes.

“A resiliência da IA deve ser proativa, não um complemento. À medida que a IA se integra na infraestrutura, a segurança deve evoluir ao mesmo ritmo, integrando a governação, os testes e a recuperação como princípios fundamentais. A Agentic AI amplificará tanto a defesa como o risco. As organizações que invistam em governação, resiliência e capacitação transformarão estes agentes em multiplicadores de segurança. As que a adotarem como simples automatização aumentarão a sua exposição. Nesta nova era, a vantagem competitiva não dependerá apenas da tecnologia, mas da capacidade das empresas para a integrar com controlo, responsabilidade e visão estratégica”, afirma Pranay Ahlawat, Diretor de Tecnologia e IA da Commvault.