A Balwurk,
empresa portuguesa especializada em Application Security e GRC, apresentou uma
framework que permite às organizações avaliar de forma sistemática e objetiva os Riscos associados à
utilização de inteligência artificial generativa.
A nova metodologia surge como resposta à
rápida disseminação destas tecnologias no mercado e à falta de processos claros
que ajudem empresas a compreender e mitigar vulnerabilidades.
Principais destaques da nova framework da Balwurk:
- Permite às empresas avaliar Riscos concretos da adoção de IA generativa.
- Organizações vão poder classificar soluções de IA consoante probabilidade de falha e impacto no negócio.
- Framework será disponibilizada de forma livre ao público, garantindo acesso alargado e transparência.
- Metodologia diferencia-se por incluir o contexto organizacional no cálculo do risco, e não apenas a tecnologia.
- Futuro passa por evoluir para uma ferramenta integrada de risco, conformidade e testes dinâmicos de segurança.
“A IA generativa entrou de forma
exponencial e muito rápida no dia-a-dia das empresas. Mesmo as organizações que
não querem, acabam forçadas a utilizá-la para não ficarem para trás. O problema
é que muitas vezes essa adoção acontece sem uma avaliação real dos Riscos”,
explica João Teixeira, Cybersecurity
Engineer da Balwurk.
Esta framework desenvolvida pela Balwurk atua
em duas fases: primeiro
caracteriza a solução de IA em análise, depois mede o Risco da sua utilização em cada organização, através de uma matriz
que cruza probabilidade de falha e impacto potencial. O resultado pode
classificar o Risco em vários níveis de criticidade, ajudando as organizações
na tomada de decisão no que respeita à adoção de IA e de acordo com o seu
apetite ao Risco.
“É difícil encontrar uma entidade
independente que classifique os Riscos da utilização destas tecnologias, em
particular no ordenamento europeu. A mesma solução de IA pode ser utilizada
pela organização de formas muito diferentes, com Riscos muito distintos. A
nossa framework vem dar resposta a essa lacuna”, acrescenta João Teixeira.
Apesar da crescente utilização da
inteligência artificial generativa em Portugal, a Balwurk alerta que o mercado nacional ainda revela pouca
maturidade na consciência dos Riscos,
em contraste com a realidade europeia, onde já se verifica preocupação
preventiva e crescente relativa à transparência deste tipo de soluções IA.
Entre os principais riscos identificados
estão a fuga ou perda permanente de
informação sensível, o impacto na continuidade de negócio e os danos reputacionais. A Balwurk
sublinha ainda que o risco é transversal a todos os setores, da banca à
administração pública, e depende sobretudo da maturidade tecnológica e da
cultura de cibersegurança de cada organização.
Outro fator diferenciador é o carácter aberto
da metodologia. A Balwurk vai disponibilizar a de forma livre a Framework,
reforçando a sua posição de alerta e supervisão face à adoção da IA.
“Ao disponibilizarmos esta framework de
forma livre às organizações, estamos em alinhamento com a visão da empresa, ao
contribuir para um ciberespaço mais seguro”, refere João Teixeira.
No futuro, a Balwurk pretende evoluir esta
framework para uma ferramenta
completa, capaz de integrar avaliação de risco, verificação de
conformidade com normas como o AI Act, NIS2 e DORA, e testes dinâmicos de
segurança aplicados a modelos de IA generativa.
“Tomar decisões informadas é fundamental.
Esta framework garante que um decisor não adota IA generativa de forma
desinformada: ajuda-o a compreender os Riscos e a tomar decisões mais
confortáveis e conscientes”, conclui João Teixeira.
Post A Comment:
0 comments: