SLMs em ascensão: porque as empresas estão a trocar modelos gigantes por IA de bolso

O mercado descobriu que nem sempre maior é melhor

Durante muito tempo, a corrida da inteligência artificial foi medida em parâmetros. Quantos mais milhares de milhões, melhor. Só que essa lógica começou a rachar. A tendência que está a dominar as conversas em salas de decisão é a dos Small Language Models (SLMs), modelos compactos, especializados e capazes de correr em hardware local, sem depender de datacenters gigantescos.

A Microsoft acaba de reforçar a família Phi, a Google continua a expandir a linha Gemma, a Meta empurra as versões mais leves do Llama e a Mistral tem sido implacável a lançar variantes pequenas mas cirúrgicas. O denominador comum é claro: modelos abaixo dos 10 mil milhões de parâmetros que, em tarefas específicas, batem sistemas dez vezes maiores.

Porque é que as empresas estão a mudar de estratégia

A conta é simples. Correr um modelo generalista topo de gama numa API custa dinheiro por cada token processado. Multiplique-se isso por milhares de pedidos diários numa PME e o custo torna-se difícil de justificar. Os SLMs permitem correr inferência num servidor próprio, num portátil ou até num telemóvel, com latência baixa e sem enviar dados sensíveis para o exterior.

Este último ponto é decisivo em Portugal e no resto da União Europeia, onde o AI Act e o RGPD obrigam a repensar onde e como se processam dados de clientes. Um modelo local, afinado com documentação interna, evita muitas dores de cabeça jurídicas.

O papel do fine-tuning e do RAG

A grande mudança não está apenas no tamanho, mas na forma como estes modelos são utilizados. Em vez de pedir a uma IA gigante que saiba tudo, as empresas treinam modelos pequenos em domínios muito concretos — apoio ao cliente, análise de contratos, código interno — e complementam com Retrieval Augmented Generation. O resultado são assistentes que respondem com precisão sobre o negócio, sem alucinar sobre temas que nunca precisam de conhecer.

Ferramentas como o Ollama, o LM Studio ou o vLLM tornaram trivial pôr um modelo destes a correr numa máquina com uma GPU de gama média. Há bancos, escritórios de advogados e até clínicas em Portugal a experimentar estas configurações em piloto.

Hardware dedicado a acelerar a transição

A vaga dos chamados Copilot+ PCs, com NPUs capazes de processar dezenas de TOPS, mostra para onde o mercado aponta. A Apple já tinha aberto o caminho com o Neural Engine e agora a Qualcomm, a Intel e a AMD entram na mesma corrida. O objectivo é claro: correr modelos de linguagem no dispositivo, sem ligação constante à cloud.

Para o utilizador comum, isto significa assistentes mais rápidos, que funcionam sem rede e que não enviam cada pergunta para servidores externos. Para os fabricantes, é uma forma de diferenciar produto num mercado saturado.

O que esperar nos próximos meses

Três sinais valem a pena vigiar. Primeiro, a consolidação de plataformas que facilitam o deploy destes modelos em ambientes empresariais, com governança e auditoria. Segundo, o crescimento de modelos multimodais pequenos, capazes de interpretar imagens e áudio localmente. Terceiro, o aparecimento de SLMs treinados especificamente em línguas europeias, incluindo o português, área onde ainda há uma lacuna face ao inglês.

A narrativa dos modelos monstruosos não desaparece — continua a fazer sentido para investigação e tarefas muito abertas. Mas a operação diária das empresas parece caminhar para uma arquitectura híbrida, onde um modelo pequeno e afinado trata de 90% dos pedidos e só recorre a um modelo maior quando é mesmo necessário. Uma tendência silenciosa, mas com impacto directo nas contas do fim do mês.

Siga o NetThings no Google News

Fique a par de todas as novidades tecnológicas em tempo real.

⭐ SEGUIR NO GOOGLE NEWS

Acompanhe-nos também em:

FACEBOOK INSTAGRAM X