Facebook
Instagram
Twitter/X
Check Point Research alerta: ChatGPT podia aceder ao seu Gmail enquanto respondia a perguntas simples
A Check Point Research descobriu uma vulnerabilidade no ChatGPT que permitia o acesso não autorizado ao Gmail das vítimas através de prompts maliciosos ocultos.
Como o ChatGPT se tornava um “insider coagido” segundo a Check Point Research
A Check Point Research, a divisão de inteligência de ameaças da Check Point Software, revelou recentemente uma descoberta preocupante no campo da cibersegurança e da inteligência artificial. De acordo com os investigadores, foi identificado um canal oculto entre contas distintas do ChatGPT que permitia que o assistente de IA utilizasse ferramentas, aplicações ligadas e permissões legítimas de um utilizador sem o seu conhecimento ou consentimento explícito. O mais alarmante é que este ataque não alterava a resposta visível apresentada na conversa, mantendo a vítima totalmente alheia ao que se passava nos bastidores.
O conceito de atacante invisível
O ataque identificado pela Check Point Software não exigia os métodos tradicionais de cibercrime, como a instalação de malware, o roubo de credenciais ou o acesso direto à conta do utilizador. Em vez disso, a equipa de investigação demonstrou que bastava uma instrução maliciosa introduzida estrategicamente. Esta instrução podia ser injetada através de três vetores principais:
- Um prompt direto na conversa;
- Uma conversa partilhada por terceiros;
- Um GPT personalizado (Custom GPT) criado para este fim específico.
Ao processar estas instruções, o assistente de IA transformava-se no que os especialistas da Check Point Research apelidaram de “insider coagido”, executando tarefas secundárias e invisíveis enquanto mantinha a fachada de uma interação normal e prestável com o utilizador.
A prova de conceito: Do frango no forno ao roubo de dados
Para demonstrar a gravidade da falha, a Check Point Research realizou uma prova de conceito onde uma pergunta quotidiana servia de isco. A vítima perguntava algo inócuo, como “Como cozinhar frango no forno?”. Enquanto o ChatGPT fornecia a receita detalhada e os tempos de cozedura, em segundo plano e de forma totalmente oculta, a IA estava a consultar a conta de Gmail da vítima.
A etiqueta “Talked to Gmail” como único aviso
Durante a investigação, a Check Point Research notou que a única indicação de que algo estaria errado era a aparição discreta de uma etiqueta que indicava “Talked to Gmail” (falou com o Gmail). No entanto, este aviso apenas surgia depois de a leitura e a extração de dados já terem ocorrido. O atacante conseguia, assim, receber informações sensíveis encontradas nos e-mails da vítima sem que esta tivesse dado qualquer permissão consciente para aquela ação específica naquele momento.
Esta descoberta é particularmente sensível para utilizadores em Portugal que utilizam estas ferramentas para aumentar a produtividade pessoal e profissional, ligando as suas contas de correio eletrónico e calendários a assistentes de IA para facilitar a gestão de tarefas diárias.
Implicações para a segurança das empresas e organizações
A Check Point Software alerta que esta vulnerabilidade revela um risco muito mais amplo do que o simples acesso a e-mails pessoais. Atualmente, muitas organizações estão a integrar assistentes de IA com os seus sistemas centrais, incluindo ficheiros confidenciais, bases de dados e aplicações empresariais críticas. A possibilidade de um modelo de linguagem ser manipulado para agir como um canal de exfiltração de dados representa um desafio novo e complexo para os departamentos de IT.
O risco das aplicações ligadas
Quando um utilizador concede permissões a um assistente de IA para aceder a outras plataformas através de APIs ou extensões, está a criar uma ponte. Se essa ponte não estiver devidamente protegida contra instruções maliciosas ocultas, qualquer dado acessível pela IA pode ser potencialmente enviado para um atacante externo. A Check Point Research sublinha que a confiança depositada nestas ferramentas deve ser acompanhada por uma vigilância rigorosa sobre que permissões são concedidas e como os dados são processados em tempo real.
A resposta da OpenAI e os cuidados a ter no futuro
Após a descoberta, a Check Point Research comunicou imediatamente os resultados à OpenAI. A criadora do ChatGPT confirmou a receção da informação e procedeu à desativação da infraestrutura interna que tinha sido identificada pelos investigadores como o ponto de exploração. Graças a esta intervenção, a vulnerabilidade específica utilizada na prova de conceito deixou de estar disponível para exploração.
A necessidade de vigilância contínua
Apesar da correção deste caso específico, os especialistas da Check Point Software advertem que o risco inerente à ligação de IA a dados sensíveis permanece. As empresas devem avaliar cuidadosamente a necessidade de integrar assistentes de IA com e-mails e ficheiros corporativos. A segurança da IA não passa apenas por evitar vírus tradicionais, mas por garantir que o modelo não é enganado para realizar ações para as quais não foi explicitamente instruído pelo utilizador legítimo.
Perguntas Frequentes
O ChatGPT ainda pode ler o meu Gmail sem eu saber?
Não, a vulnerabilidade específica identificada pela Check Point Research foi comunicada à OpenAI e a infraestrutura interna que permitia este ataque foi desativada pela empresa.
Como é que os atacantes conseguiam aceder aos meus e-mails?
Segundo a Check Point Software, os atacantes usavam instruções maliciosas escondidas em prompts ou GPTs personalizados que forçavam a IA a consultar o Gmail e enviar os dados para o atacante de forma invisível.
O que posso fazer para proteger a minha conta ChatGPT?
Deve ter cautela ao utilizar GPTs personalizados de fontes desconhecidas, evitar abrir conversas partilhadas de origem duvidosa e rever regularmente as permissões de aplicações ligadas à sua conta de IA.
Leia também no netthings.pt
- Eurotux lança AI Act Essentials para assegurar conformidade com o Regulamento Europeu de IA
- Ciberataques atingem 30% dos retalhistas europeus: o relatório da Kaspersky
- IA Alucina em Tribunal: Advogado Multado por Criar Testemunhas Fictícias com Algoritmos
Siga o NetThings no Google News
Fique a par de todas as novidades tecnológicas em tempo real.
⭐ SEGUIR NO GOOGLE NEWS
Participar na conversa