Imagine um funcionário que cria um agente de inteligência artificial para automatizar parte do seu trabalho.
Em algumas horas, ele consegue conectar ferramentas, acessar informações, executar tarefas e construir uma automação que antes exigiria dias de desenvolvimento. O resultado parece excelente. Menos trabalho manual, mais produtividade e respostas mais rápidas.
Mas existe uma pergunta que poucas empresas estão preparadas para responder:
O que exatamente essa inteligência artificial está autorizada a fazer?
Ela pode acessar informações confidenciais? Modificar dados de clientes? Enviar mensagens em nome da empresa? Executar operações sem aprovação humana? E, se alguma coisa der errado, quem será responsável?
O que começa como uma iniciativa individual de produtividade pode se transformar em um problema de segurança, controle e responsabilidade para toda a organização.
Essa situação está relacionada ao que se conhece como shadow AI, termo utilizado para descrever o uso de ferramentas e sistemas de inteligência artificial sem o conhecimento, a aprovação ou a supervisão adequada da organização.
Isso pode acontecer quando um funcionário utiliza uma ferramenta não autorizada para processar informações corporativas ou desenvolve um agente capaz de acessar sistemas e executar tarefas sem que a empresa tenha visibilidade sobre seu funcionamento.
O problema não é simplesmente a utilização dessas ferramentas, mas a falta de controle sobre quais dados elas acessam, quais permissões possuem e quais ações podem executar.
Essa preocupação já faz parte da agenda de segurança corporativa. Em setembro de 2026, a Gartner destacou a expansão dos agentes de IA utilizados fora da supervisão formal como uma tendência relevante de cibersegurança, chamando a atenção para o ritmo de adoção dessas aplicações em comparação com a capacidade das organizações de controlá-las.
À medida que essas aplicações ganham espaço nas operações corporativas, as empresas enfrentam um novo desafio: ter visibilidade sobre seu funcionamento e garantir que seu uso esteja alinhado às políticas da organização.
Um agente de IA pode ir além de responder perguntas. Quando conectado aos sistemas de uma empresa, ele pode consultar documentos, acessar bancos de dados, utilizar ferramentas e executar ações para atingir um objetivo. Em vez de apenas fornecer uma resposta, pode encadear diferentes etapas, avaliar os resultados obtidos e decidir quais ações realizar em seguida, dentro das permissões e dos limites definidos.
Essa capacidade amplia as possibilidades de automação, mas também aumenta os riscos. Se as permissões forem excessivas ou os limites estiverem mal definidos, um erro pode deixar de ser apenas uma resposta incorreta e se transformar em uma ação com consequências reais. Um agente pode modificar informações indevidamente, compartilhar dados sensíveis ou executar operações que deveriam exigir aprovação humana.
Existe também um risco menos evidente: o custo dessa autonomia.
Um agente pode realizar dezenas de chamadas a modelos, consultar ferramentas repetidamente e processar grandes volumes de informações antes de concluir uma única tarefa.
Sem limites de execução e monitoramento de consumo, uma automação aparentemente produtiva pode gerar custos desproporcionais ao resultado entregue.
Por isso, não basta saber se um agente consegue executar uma tarefa. É preciso saber o que ele pode fazer, até onde pode ir e quanto pode gastar para chegar ao resultado.
Para lidar com esses riscos, não basta estabelecer políticas internas dizendo o que a inteligência artificial pode ou não fazer. É necessário transformar essas regras em mecanismos técnicos capazes de limitar, supervisionar e registrar as ações dos agentes.
É nesse contexto que ganha importância um conceito ainda pouco conhecido fora dos círculos técnicos: o AI harness.
Se o modelo fornece a capacidade de raciocínio e geração de respostas, o harness é a estrutura de execução que coordena suas interações com ferramentas, gerencia o fluxo de trabalho e pode implementar mecanismos de controle sobre a atuação do agente.
Na prática, essa camada pode determinar quais ferramentas um agente pode utilizar, limitar o número de etapas de uma tarefa, gerenciar solicitações de aprovação humana e estabelecer condições para interromper uma execução.
Mas esses controles não dependem apenas do harness. As permissões também precisam ser aplicadas nos sistemas acessados, enquanto políticas de segurança, mecanismos de monitoramento e processos de supervisão devem acompanhar o comportamento do agente.
O mesmo princípio vale para os custos.
Uma empresa pode estabelecer limites de chamadas aos modelos, orçamentos de tokens por tarefa e alertas para consumos acima do esperado. Também pode monitorar os custos de cada agente, incluindo o uso de modelos, ferramentas externas e infraestrutura, e comparar esses valores com os resultados obtidos.
Esses mecanismos ajudam a evitar que ciclos de execução, chamadas desnecessárias ou escolhas inadequadas de modelos transformem uma automação eficiente em uma operação economicamente inviável.
Entretanto, os controles não devem ser iguais para todos os agentes.
Uma automação que apenas consulta documentos pode operar com permissões diferentes das de um agente autorizado a modificar registros financeiros, alterar dados de clientes ou enviar comunicações externas.
O objetivo não é impedir a autonomia, mas definir os limites dentro dos quais ela pode operar com segurança e governança. Quanto maior o impacto potencial de uma ação, maior deve ser o rigor dos controles e a necessidade de supervisão.
Para as empresas, essa discussão vai muito além da segurança da informação.
Adotar agentes de inteligência artificial exige estabelecer regras claras sobre o que eles podem executar, quais informações podem acessar e quais decisões precisam de aprovação humana. Também exige definir responsáveis, monitorar comportamentos e avaliar se os resultados justificam os custos.
Por isso, a governança precisa conectar três dimensões: segurança, confiabilidade e eficiência econômica.
Isso significa definir responsabilidades, estabelecer limites de atuação, acompanhar indicadores de desempenho e avaliar o retorno de cada automação. Também significa determinar quais tarefas podem ser delegadas à inteligência artificial, quais exigem supervisão e quais não devem ser automatizadas.
A governança, nesse contexto, não é apenas uma camada de proteção. É o que permite que a empresa amplie o uso da inteligência artificial com previsibilidade, responsabilidade e critérios claros para tomar decisões.
Afinal, a vantagem competitiva não estará simplesmente em utilizar mais agentes, mas em saber onde utilizá-los, quanto investir e quais resultados esperar.
O desafio das empresas não é impedir que a IA avance, mas criar as condições para que essa autonomia seja utilizada com segurança, responsabilidade e retorno econômico.
Construir agentes capazes de agir é um desafio tecnológico. Saber quais ações permitir, quais riscos aceitar e quais resultados esperar é uma decisão estratégica.
Nos vemos na próxima. O futuro já começou.
Rafael Ribeiro
Colunista de Inteligência Artificial Estratégica.
