Sophos AI Defense: A Nova Solução para Travar o Shadow AI e Proteger o Uso de Inteligência Artificial

A Sophos anunciou o lançamento do Sophos AI Defense, uma ferramenta inovadora desenhada para identificar e proteger a utilização de Inteligência Artificial (IA) nas empresas em tempo real. Esta nova solução visa combater o fenómeno crescente do Shadow AI, revelando ferramentas e agentes que os colaboradores utilizam sem a devida aprovação das equipas de segurança. Através do Sophos Fusion, o sistema de defesa nativo de IA da marca, as organizações passam a ter visibilidade total sobre o que está a ser executado nos seus ambientes.

O que é o Shadow AI e por que motivo preocupa as empresas?

O conceito de Shadow AI refere-se à utilização de ferramentas de inteligência artificial — como chatbots, geradores de imagem ou extensões de browser — por parte dos colaboradores de uma empresa sem o conhecimento ou autorização formal do departamento de TI. Embora estas ferramentas possam aumentar a produtividade individual, criam vulnerabilidades críticas na infraestrutura de cibersegurança.

De acordo com dados partilhados pela Sophos, a magnitude deste problema é alarmante:

• 69% das organizações suspeitam ou possuem provas concretas de que os seus colaboradores utilizam ferramentas de IA não autorizadas.
• 82% das empresas descobriram agentes de Shadow AI nos seus ambientes no último ano.
• 90% dos líderes de TI admitem estar preocupados com os riscos associados a esta prática.

A situação tende a intensificar-se, uma vez que a IDC projeta a existência de 1,3 mil milhões de agentes de IA até 2028. Cada uma destas ferramentas representa uma potencial porta de entrada para atacantes ou um ponto de fuga de dados confidenciais, afetando a integridade e a disponibilidade da informação corporativa.

A evolução das ameaças segundo a Sophos X-Ops

A unidade de investigação Sophos X-Ops tem acompanhado de perto a forma como os cibercriminosos estão a aproveitar-se da IA. Apenas este ano, foi identificado um atacante que utilizou agentes de IA dentro da rede de um cliente para criar e testar quase 80 módulos de malware diferentes. Além disso, foram detetados agentes de ameaças a vender chaves de API para modelos de IA de topo (Frontier AI), fóruns clandestinos a comercializar técnicas de jailbreak e a contratação ativa de engenheiros de prompts de IA para fins criminosos.

Como funciona o Sophos AI Defense: Proteção em Tempo Real

O Sophos AI Defense não é apenas mais uma ferramenta isolada. Ele integra-se nos controlos de endpoint, rede, identidade e browser que as organizações já possuem, transformando-os em barreiras de proteção ativas. O sistema recolhe sinais de várias camadas para mapear a atividade de IA, avaliando quem está a agir, que dados estão envolvidos e como se comporta a ferramenta.

Uma das funcionalidades mais robustas são as barreiras de proteção em tempo real. Estas barreiras inspecionam os prompts (instruções enviadas à IA), os uploads de ficheiros e outras interações no exato momento em que ocorrem. Isto permite distinguir entre uma utilização de rotina inofensiva e atividades que podem expor dados sensíveis da empresa.

A importância dos conceitos técnicos explicados

Para compreender o alcance desta solução, é necessário clarificar alguns termos mencionados pela Sophos:

• Endpoint: Refere-se a qualquer dispositivo ligado à rede, como portáteis, telemóveis ou computadores de secretária, que funcionam como o ponto final de comunicação.
• XDR (Extended Detection and Response): Uma abordagem que recolhe e correlaciona dados em várias camadas de segurança (email, rede, cloud) para detetar ameaças mais rapidamente.
• MDR (Managed Detection and Response): Um serviço gerido onde especialistas humanos monitorizam e respondem a incidentes 24 horas por dia, 7 dias por semana.

Toda a atividade monitorizada pelo Sophos AI Defense é integrada no sistema Sophos Fusion, permitindo que os analistas do Sophos MDR e as equipas que utilizam o Sophos XDR investiguem incidentes através dos fluxos de trabalho que já lhes são familiares, sem necessidade de aprender novas interfaces complexas.

O impacto na gestão de cibersegurança e o papel dos MSPs

Kyle Falkenhagen, Senior Vice President of Product Management na Sophos, destaca a necessidade urgente desta visibilidade: "As organizações estão a adotar IA mais rapidamente do que a conseguem proteger, e a maioria das equipas de segurança não consegue responder a três perguntas básicas: que ferramentas de IA estão a ser executadas, que dados estão a ser introduzidos nelas e se essa atividade está alinhada com as políticas da empresa". Segundo o executivo, o Sophos AI Defense permite que as equipas digam "sim" à inovação da IA com a consciência plena dos riscos que estão a aceitar.

Para os Fornecedores de Serviços Geridos (MSPs), esta solução representa uma oportunidade de oferecer uma camada de segurança adicional aos seus clientes de forma escalável. Sendo executado através do Sophos Fusion, a ativação é simplificada, permitindo proteger empresas de todas as dimensões desde o primeiro dia de implementação.

Exemplo prático de implementação

Anthony Bender, CTO da Empyreal Logistics, partilhou a experiência da sua empresa perante o desafio da IA: "Os nossos clientes começaram a perguntar-nos como estávamos a utilizar IA e como estávamos a proteger essa utilização. Não tínhamos uma boa resposta. Não tínhamos forma de bloquear e regular a utilização de ferramentas de IA não autorizadas. Agora, temos controlo sobre a forma como queremos que os nossos colaboradores utilizem IA e conseguimos demonstrar aos nossos clientes que estamos a fazer aquilo que dizemos".

Disponibilidade e contexto de mercado

O Sophos AI Defense já se encontra disponível globalmente. O seu lançamento estratégico durante o mês de outubro, o Mês da Sensibilização para a Cibersegurança, sublinha a urgência do tema. Com a Sophos a defender atualmente mais de 600.000 organizações em todo o mundo, esta nova funcionalidade reforça o seu portefólio que combina machine learning, automação e inteligência de ameaças em tempo real com a experiência humana da equipa Sophos X-Ops.

Perguntas Frequentes

O que é o Shadow AI e porque é perigoso para a minha empresa?

O Shadow AI é o uso de ferramentas de Inteligência Artificial pelos colaboradores sem o consentimento do departamento de TI. É perigoso porque pode levar à fuga de dados confidenciais para modelos de IA públicos e criar novas vulnerabilidades que os cibercriminosos podem explorar para aceder à rede da empresa.

O Sophos AI Defense exige a instalação de software novo em todos os computadores?

O Sophos AI Defense funciona através do Sophos Fusion, integrando-se nos controlos de endpoint, rede e browser que a empresa já utiliza. Isto significa que aproveita a infraestrutura de segurança da Sophos já existente, facilitando a ativação sem a necessidade de gerir mais uma ferramenta isolada.

Como é que a Sophos protege os dados que os funcionários escrevem nos chatbots de IA?

A solução utiliza barreiras de proteção em tempo real que inspecionam os prompts e os uploads de ficheiros no momento em que ocorrem. Se um colaborador tentar enviar informação sensível ou violar as políticas da empresa, o sistema identifica a atividade e permite a intervenção imediata da equipa de segurança.

Leia também no netthings.pt

• IAPMEI lança Programa PME Digital+ com 2,47 milhões de euros para impulsionar a digitalização de 600 empresas
• Check Point alerta: nas eleições americanas até as mensagens verdadeiras parecem burla
• Steam Revoluciona Organização de Conquistas: 'Sets' Chegam para Dar Ordem ao Caos dos Completistas

Siga o NetThings no Google News

Fique a par de todas as novidades tecnológicas em tempo real.

⭐ SEGUIR NO GOOGLE NEWS

Acompanhe-nos também em:

FACEBOOK INSTAGRAM X