Quando um Agente de IA se recusa a responder, pode estar a fazer exatamente o que deve

Uma das observações mais frequentes que encontro quando se fala de Inteligência Artificial em contexto empresarial é surpreendentemente simples:

“Mas o ChatGPT respondeu.”

Ou:

“Perguntei ao Claude e obtive uma resposta imediatamente.”

A comparação surge quase de forma automática.

Se uma IA responde e outra não, a conclusão parece evidente: a primeira será melhor.

Mas será mesmo assim?

Nem sempre.

Na realidade, em muitos contextos empresariais, a situação pode ser precisamente a inversa.

O erro de comparação mais comum

Nos últimos anos, ferramentas como o ChatGPT, Claude, Gemini e muitas outras tiveram um impacto extraordinário.

Democratizaram o acesso à Inteligência Artificial.

Milhões de pessoas interagem diariamente com modelos de linguagem extremamente avançados e habituaram-se a obter respostas rápidas, detalhadas e aparentemente inteligentes.

Como consequência, criou-se uma expectativa natural:

Se uma IA consegue responder a praticamente tudo, porque não deveria um agente empresarial fazer o mesmo?

O problema é que estamos frequentemente a comparar sistemas concebidos para objetivos completamente diferentes.

Os grandes modelos fundacionais foram desenhados para maximizar:

• Utilidade
• Fluidez conversacional
• Abrangência de conhecimento
• Capacidade de geração de conteúdo

Já os sistemas de IA empresariais operam sob requisitos distintos:

• Confiança
• Governança
• Rastreabilidade
• Conformidade
• Segurança
• Consistência operacional

O objetivo deixa de ser apenas responde e passa a ser responder de forma que a organização possa confiar na resposta.

A questão não é se a IA consegue responder

A verdadeira questão é outra: Deve responder?

Esta distinção torna-se particularmente relevante quando a IA começa a apoiar colaboradores, clientes, estudantes, pacientes ou processos operacionais.

Imagine um colaborador a perguntar:

“Quantos dias de férias tenho direito este ano?”

Um modelo de linguagem genérico irá provavelmente fornecer uma resposta e poderá até parecer convincente.

Mas de onde veio essa informação?

• Foi retirada da política interna da organização?
• Foi validada pela equipa de Recursos Humanos?
• Corresponde à versão mais recente das regras em vigor?
• Pode ser auditada?
• Pode ser contestada?
• Existe alguém responsável caso esteja errada?

Subitamente, o desafio deixa de ser tecnológico e passa a ser um desafio de governança.

As alucinações são, acima de tudo, um problema de governança

Grande parte da discussão sobre alucinações concentra-se nos modelos.

Mas em contexto empresarial, teremos de olhar para o problema de outra forma.

Uma resposta que não pode ser associada a uma fonte validada gera inevitavelmente questões de:

• Responsabilidade
• Conformidade
• Consistência operacional
• Gestão de risco
• Confiança organizacional

É precisamente por esta razão que muitos agentes empresariais limitam deliberadamente as suas respostas a fontes de conhecimento previamente aprovadas.

Para alguns utilizadores, isto pode parecer uma limitação, mas na realidade, trata-se de uma escolha de arquitetura.

O agente não está a recusar responder porque não sabe.

Está a recusar responder porque não possui conhecimento autorizado para o fazer.

E existe uma diferença fundamental entre as duas situações.

O risco menos discutido: a dependência dos modelos

Outro tema que começa a ganhar relevância é a crescente dependência das organizações relativamente a modelos fundacionais externos.

Muitas soluções são atualmente construídas diretamente sobre modelos disponibilizados por fornecedores terceiros.

Não existe nada de errado nessa abordagem! Pelo contrário. Em muitos casos, até pode ser a decisão mais sensata.

Contudo, existe uma dependência que nem sempre é devidamente considerada.

Os fornecedores destes modelos podem:

• Alterar preços
• Modificar comportamentos
• Introduzir limitações
• Descontinuar funcionalidades
• Lançar novas versões com características diferentes

O resultado é que uma solução aparentemente estável pode depender de componentes que evoluem constantemente e que estão fora do controlo da organização.

A pergunta deixa então de ser: “Qual é o melhor modelo?”

E passa a ser: “Como gerimos a nossa dependência de modelos que não controlamos?”

Talvez por isso estejamos a assistir a uma crescente adoção de arquiteturas agnósticas relativamente ao modelo utilizado.

O objetivo já não é encontrar o modelo perfeito.

O objetivo é preservar flexibilidade.

Flexibilidade para utilizar diferentes modelos consoante o contexto, mantendo simultaneamente governança, segurança e continuidade operacional.

A governança já não é suficiente

Durante algum tempo, a principal preocupação foi a governança da IA. E continua a ser!

Mas à medida que a adoção cresce, surge uma nova camada de complexidade: A orquestração.

As organizações já não implementam apenas um agente.

Implementam múltiplos agentes.

Múltiplos modelos.

Múltiplos fluxos de trabalho.

Múltiplas integrações.

Múltiplas automações.

Distribuídas por diferentes equipas e áreas de negócio.

A questão deixa então de ser: “Como governamos uma interação?”

E passa a ser: “Como governamos um ecossistema de IA?”

Então começam a surgir novas perguntas:

• Que agente é responsável por cada tarefa?
• Que modelo deve ser utilizado em cada contexto?
• Como são coordenadas as decisões?
• Como são monitorizadas as ações?
• Como são geridas exceções?
• Quem mantém a responsabilidade final pelos resultados?

À medida que a complexidade aumenta, governança e orquestração tornam-se inseparáveis.

O equilíbrio entre controlo e inovação

Existe ainda outra tensão que muitas organizações começam a sentir.

As equipas de negócio procuram velocidade.

As equipas tecnológicas procuram controlo.

As equipas de risco procuram garantias.

A liderança procura resultados.

Demasiado controlo pode travar a inovação.

Demasiada autonomia pode criar fragmentação.

Os casos de utilização multiplicam-se, as ferramentas proliferam e os silos começam a surgir.

Talvez um dos maiores desafios nos próximos anos seja precisamente este:

Criar condições para que a inovação aconteça dentro de limites claramente governados.

Não governança ou inovação: Governança e inovação.

Não controlo ou agilidade: Controlo e agilidade.

Faz toda a diferença!

A chegada da Agentic AI aumenta a exigência

Esta discussão torna-se ainda mais relevante com a evolução para sistemas Agentic AI.

Os assistentes tradicionais respondem a perguntas.

Os agentes começam a executar ações.

Podem:

• Acionar processos
• Consultar sistemas
• Atualizar registos
• Coordenar tarefas
• Interagir com múltiplas aplicações
• Apoiar decisões operacionais

À medida que o grau de autonomia aumenta, aumenta também o impacto potencial dos erros.

Uma resposta incorreta pode gerar confusão.

Uma ação incorreta pode gerar consequências operacionais.

Por essa razão, supervisão, auditabilidade, orquestração e responsabilização tornam-se capacidades fundamentais.

A verdadeira vantagem competitiva

Nos próximos anos, é provável (ou antes… é certo!) que a maioria das organizações tenha acesso a capacidades de IA cada vez mais semelhantes.

Os modelos continuarão a melhorar.

O acesso continuará a democratizar-se.

E a diferenciação dificilmente estará apenas na tecnologia.

Na minha perspetiva, a verdadeira vantagem competitiva poderá residir na capacidade de transformar Inteligência Artificial em capacidade organizacional.

Ao longo dos últimos meses, tenho tido a oportunidade de conversar com organizações de diferentes setores e com níveis de maturidade muito distintos.

Apesar das diferenças, existe um padrão curioso:

• Quase todas estão interessadas em IA.
• Muitas já estão a experimentar.
• Algumas já estão a escalar.

Mas as conversas mais relevantes raramente acontecem em torno dos modelos.

Acontecem em torno da governança, da integração, da responsabilidade, da confiança e da capacidade de transformar iniciativas isoladas em algo sustentável para a organização.

Isso exige muito mais do que modelos. Exige:

• Governança
• Orquestração
• Gestão de conhecimento
• Supervisão humana
• Integração operacional
• Segurança
• Conformidade
• Monitorização contínua

Em última análise, exige confiança.

Talvez por isso a questão mais importante já não seja quem consegue implementar IA mais depressa, mas sim quem consegue integrar, governar e operacionalizar IA de forma consistente, criando condições para que esta evolua de uma tecnologia promissora para uma capacidade organizacional duradoura.

Porque os modelos continuarão a mudar e as tecnologias continuarão a evoluir.

Mas a capacidade de uma organização absorver essa evolução de forma sustentável poderá tornar-se uma das vantagens competitivas mais relevantes da próxima década.