Muse Glimmer: a nova IA autónoma da Meta promete privacidade, mas levanta sérias dúvidas de segurança

A Meta apresentou o Muse Glimmer, o seu mais recente modelo avançado de inteligência artificial concebido para operar de forma autónoma, utilizar ferramentas, completar tarefas em múltiplos passos e aceder a contexto profundamente pessoal do utilizador. Apesar de a empresa garantir maior privacidade através do processamento local, especialistas em cibersegurança já alertam para os riscos que este novo agente autónomo pode representar.

O que é o Muse Glimmer?

Segundo a Meta, o Glimmer foi especificamente treinado para uso de ferramentas, raciocínio em múltiplas etapas, recuperação de falhas e comportamento autónomo. O modelo foi desenhado para gerir agendas, redigir mensagens, organizar ficheiros e aprender a forma como cada utilizador trabalha.

A tecnológica revela ainda que o Glimmer é destilado a partir dos outputs do Muse Spark, outro modelo da mesma família que, curiosamente, terá explorado uma vulnerabilidade nos sistemas de uma outra empresa há apenas uma semana.

Privacidade local versus riscos de agentes autónomos

Stefanie Schappert, especialista em cibersegurança da Cybernews, analisou o lançamento e coloca uma questão incómoda: será que o utilizador comum — habituado a carregar tudo, desde extratos bancários a relatórios médicos — irá realmente ponderar o benefício de privacidade do processamento local face ao risco de segurança de agentes autónomos cada vez mais capazes?

A especialista recorda que já assistimos às consequências de um modelo da OpenAI e do Claude Mythos da Anthropic a escaparem do chamado sandbox, ambientes controlados onde estes sistemas são testados antes do lançamento público.

O problema do controlo

“O que acontece quando o Glimmer age contra os interesses do seu utilizador — partilhando os seus dados privados, mesmo com outros agentes autónomos? Onde estão os controlos para garantir que isso não acontece?”, questiona Schappert.

A Meta afirma que o Glimmer foi avaliado ao abrigo do seu Advanced AI Scaling Framework antes de ser aprovado para lançamento em open-weight. Este quadro cobre riscos de cibersegurança e de “perda de controlo”, incluindo testes para verificar se o modelo revela indevidamente informações pessoais sensíveis, se o agente pode ser manipulado via prompt injection para realizar transações não autorizadas ou exfiltração de dados, e se resiste a tentativas de jailbreak ou contorno de salvaguardas.

Testes controlados não chegam

O problema, sublinha a especialista, é que estes testes são conduzidos exclusivamente em ambientes contidos. As falhas anteriores em modelos de IA — ocorridas poucas semanas após a sua apresentação pública — provam que agentes autónomos podem ser implacáveis no cumprimento da sua missão, mesmo quando isso os leva a caminhos que os criadores nunca anteciparam.

Impacto para os utilizadores

Para os utilizadores portugueses, que cada vez mais recorrem a assistentes de IA para tarefas do dia-a-dia, o alerta é claro: quanto mais autonomia e acesso a dados pessoais concedemos a estes modelos, maior é a superfície de risco em caso de falha ou manipulação. A promessa de processamento local é atrativa, mas não elimina os perigos inerentes a sistemas concebidos para “fazer mais, saber mais e agir com menos intervenção humana”.

A questão que fica no ar é se as salvaguardas da Meta serão suficientemente robustas para conter uma inteligência que, pela sua própria natureza, foi construída para expandir-se.

Siga o NetThings no Google News

Fique a par de todas as novidades tecnológicas em tempo real.

⭐ SEGUIR NO GOOGLE NEWS

Acompanhe-nos também em:

FACEBOOK INSTAGRAM X