Com agentes acessando sistemas, executando tarefas e consumindo orçamento, empresas precisam ampliar o controle sobre ferramentas, modelos e automações de inteligência artificial
Quantas inteligências artificiais trabalham hoje para uma empresa? A pergunta ganha relevância à medida que ferramentas e agentes de IA deixam de atuar apenas como recursos de produtividade individual e passam a integrar processos corporativos.
Entre soluções contratadas por diferentes departamentos, funcionalidades incorporadas a softwares, agentes desenvolvidos internamente e aplicações adotadas diretamente pelos funcionários, uma companhia pode ter dificuldade para mapear quantas IAs estão presentes em sua operação.
O cenário abre espaço para o chamado Shadow AI, termo usado para descrever a adoção de ferramentas de inteligência artificial fora da governança formal da organização, em movimento semelhante ao Shadow IT.
“A dor operacional chega antes da política corporativa. O colaborador descobre que consegue produzir um relatório mais rápido, analisar um documento, responder a clientes ou organizar informações usando IA e começa a fazê-lo antes que a organização defina regras para isso”, explica Fábio Tiepolo, CEO da StaryaAI.
O problema ganha outra dimensão quando essas ferramentas passam a acessar dados e sistemas corporativos, executar tarefas ou interferir em decisões. “Quando agentes passam a acessar sistemas, executar tarefas, consumir orçamento e tomar decisões, a empresa precisa saber quantos existem, quem é responsável por eles, quais dados acessam, quais modelos utilizam e quanto custam”, afirma Tiepolo.
O inventário precisa ir além do ChatGPT
Mapear a presença da IA em uma organização não significa apenas contabilizar assinaturas de ferramentas conhecidas. O levantamento deve incluir assistentes personalizados, agentes desenvolvidos internamente, automações, APIs de grandes modelos de linguagem (LLMs) e recursos de inteligência artificial incorporados a softwares corporativos.
Para Vinícius Reis, CTO da StaryaAI, o objetivo é compreender quais capacidades foram colocadas em operação e os riscos associados a elas. “O ponto não é inventariar marcas. É inventariar capacidade e risco”, resume.
Para cada aplicação, a empresa deveria identificar o responsável, a finalidade, os fornecedores e modelos utilizados, os dados e sistemas acessados, o nível de autonomia, o custo e as condições de auditoria. Sem essa visão, diferentes departamentos podem formar “ilhas” de IA, ampliando riscos relacionados à segurança, ao vazamento de dados, aos custos e a decisões equivocadas.
Dados, custos e autonomia entram na conta
A adoção descentralizada pode fazer com que informações corporativas sejam processadas por diferentes modelos sem uma visão completa desse fluxo. Dados de clientes, informações pessoais, contratos, documentos internos, dados financeiros e comerciais, propriedade intelectual e informações reguladas estão entre os conteúdos que exigem maior controle.
O impacto financeiro também merece atenção. Áreas distintas podem contratar soluções semelhantes, enquanto se acumulam despesas com modelos, APIs, integrações, infraestrutura e manutenção. Como parte desses custos varia conforme o consumo e o volume de chamadas, Tiepolo defende a adoção de práticas de FinOps, voltadas à gestão dos custos de tecnologia, também na governança de IA.
“A empresa precisa saber quem consome, quanto consome, qual modelo está sendo usado e qual resultado aquele custo está produzindo. Sem essa visão, é perfeitamente possível ter uma organização investindo muito em IA sem saber se está comprando capacidade ou apenas duplicando ferramentas”, afirma Tiepolo.
Outro ponto é definir até onde um agente pode agir sozinho. Uma ferramenta utilizada para organizar o trabalho individual tem impacto diferente de um agente autorizado a consultar um CRM, alterar registros, enviar mensagens em nome da empresa ou interagir com clientes. Quanto maior o impacto de uma ação e menor a possibilidade de reversão, menor deve ser a autonomia concedida.
A rastreabilidade também se torna essencial. Se um agente envia uma informação incorreta, acessa um dado indevido ou toma uma decisão equivocada, a empresa deveria conseguir identificar os dados utilizados, os sistemas consultados, o modelo envolvido, as regras vigentes e a sequência de ações executadas. “Autonomia sem rastreabilidade não é governança. É apenas delegação de risco”, diz Tiepolo.
Como fazer um “censo de IAs”
O diagnóstico pode começar pelo levantamento de ferramentas, agentes, modelos, APIs e automações utilizados nas diferentes áreas. Entre as principais perguntas estão: quantos estão em uso ou planejamento; quem responde por cada um; qual processo atendem; quais dados e sistemas acessam; qual o nível de autonomia; se apenas recomendam ou também executam ações; quanto custam; e se existem logs e mecanismos de auditoria.
Esse levantamento permite identificar duplicidades, riscos, custos e dependências e transformar a discussão sobre IA em um mapa operacional da companhia. À medida que agentes assumem mais tarefas, saber quais sistemas de IA estão em funcionamento tende a se tornar parte da gestão da infraestrutura corporativa. “A vantagem competitiva não estará em possuir o maior número de agentes. Estará em conseguir orquestrar esses agentes, dados e integrações dentro de uma arquitetura com segurança, rastreabilidade, custo controlado e resultado mensurável”, afirma Tiepolo.
Para o executivo, a falta desse controle pode criar uma modalidade de dívida tecnológica, com agentes duplicados, custos invisíveis, dados espalhados, dependência de diferentes fornecedores e decisões difíceis de auditar. “IA está deixando de ser ferramenta e virando infraestrutura operacional. Quando isso acontece, inventário e governança deixam de ser burocracia. Viram parte da gestão do negócio”, conclui.
