Uma etapa de aprovação humana anula a velocidade que vocês prometeram?

Não anula, porque a parte lenta da maioria dos processos nunca foi a decisão. Numa implantação para uma imobiliária a primeira resposta foi de 6 horas para 8 minutos e a preparação de documentos de 2 dias para 20 minutos, e uma pessoa continuou assinando tudo que saía da empresa. As seis horas eram tempo de fila, não tempo de raciocínio: a solicitação ficava numa caixa de entrada até alguém chegar nela. A automação remove a espera, a redigitação, a consulta e a montagem, e entrega a uma pessoa uma coisa pronta para aprovar em um minuto. Isso é um uso completamente diferente da atenção de quem aprova. Os casos em que a aprovação realmente atrasa são aqueles em que quem aprova já era um gargalo, e isso aparece no diagnóstico como uma fila na frente de uma pessoa. Se encontramos, dizemos, porque automatizar até um aprovador travado apenas muda a fila de lugar.

Onde exatamente a linha de aprovação deve ficar?

Ela é definida por processo e por jurisdição, e não existe resposta universal que valha a pena imprimir. A regra que aplicamos é que tudo que vincula a empresa precisa de uma pessoa: um preço cotado, uma condição acordada, um compromisso assumido, um documento que possa ser lido como contrato. Tudo puramente administrativo pode rodar sozinho: um lembrete, uma decisão de roteamento, um horário na agenda, uma consulta de dados. Os casos interessantes ficam no meio, e são decididos no diagnóstico com as pessoas que carregam a responsabilidade. Uma clínica e uma imobiliária no mesmo país traçam a linha de formas diferentes, e a mesma clínica em dois países a traça de forma diferente de novo, porque a regulação e o dever profissional mudam. O que importa é que a linha esteja escrita antes de entrar no ar e revista quando o processo mudar, em vez de ser deduzida depois a partir do que o sistema por acaso fez.

Quanto custa de fato manter a pessoa no circuito?

Custa a taxa de escalonamento multiplicada pelo tempo de quem aprova, e esse valor pertence ao business case como uma linha mensal, e não como uma suposição. Se um processo roda 400 vezes por mês, escala 12% dos casos e cada escalonamento toma 4 minutos de quem aprova, isso dá cerca de 3 horas por mês do tempo de uma pessoa específica, todo mês, para sempre. Costuma ser uma boa troca e nunca é zero. Duas coisas tornam isso pior do que precisa ser: um escalonamento que chega sem contexto, obrigando quem aprova a reconstruir a situação antes de decidir, e um limiar de escalonamento que ninguém revisa depois do lançamento. Anexamos a conversa inteira e o motivo da dúvida a cada escalonamento pelo primeiro motivo, e revisamos limiares na entrega pelo segundo. Ao avaliar qualquer fornecedor, peça a taxa de escalonamento e o tempo médio de aprovação na mesma frase em que pede o retorno.

Como isso difere de ética em IA e trabalho de compliance?

Compliance responde a um regulador e produz documentos: classificação de risco, documentação do modelo, evidência de teste de viés, procedimentos de incidente. O desenho de humano no circuito responde ao operador e produz comportamento: qual decisão vai para onde, de quem é a responsabilidade, o que fica registrado. Os dois se sobrepõem, porque auditores pedem evidência de que existe uma etapa de revisão humana e de que ela é real em vez de nominal, e uma trilha de auditoria das decisões automáticas é exatamente a evidência que eles querem. Mas eles falham de formas diferentes. Uma empresa pode estar totalmente documentada e ainda assim colocar no ar uma automação que silenciosamente a compromete com um preço que ninguém pretendia, e uma empresa pode ter um desenho de aprovação sólido sem nenhum dos papéis que um mercado regulado vai exigir. As duas metades precisam ser feitas, e fazer a operacional primeiro tende a deixar a metade de papel honesta em vez de aspiracional.

Voltar ao blog

Operações

O Que a Sua IA Não Tem Permissão Para Decidir

Safe AI numa implantação real são quatro regras sobre onde a pessoa continua sentada. Aqui estão elas, com o custo de cada uma e onde a linha é traçada.

Mikhail Savchenko·3 de agosto de 2026·5 min de leitura

Safe AIAutomaçãoOperaçõesGovernança

A pergunta por trás de "isso é seguro?"

Todo operador faz alguma versão dela antes de assinar, e quase nunca significa aquilo que o fornecedor responde. O fornecedor ouve "o modelo vai alucinar" e começa a falar de taxas de acurácia. O operador quer dizer algo bem mais estreito e prático: o que essa coisa tem permissão de decidir sem mim?

Isso é uma questão de desenho, tem resposta escrita e leva cerca de uma hora para ser resolvida por processo. A nossa está abaixo, em quatro regras em vez de um conjunto de princípios, porque um princípio não pode ser conferido numa terça-feira à tarde e uma regra pode.

Regra um: nada que vincula sai sem uma pessoa

Um preço. Uma data de entrega. Uma condição. Um documento que um tribunal leria como compromisso. Tudo isso para numa pessoa.

Esta é a regra que sobrevive ao contato com advogados, e é também a mais barata, porque a etapa que vincula é uma fração pequena de qualquer processo. Numa implantação para uma imobiliária, a IA respondia primeiro, qualificava a solicitação, montava o pacote de documentos e encaminhava ao corretor certo. A primeira resposta caiu de 6 horas para 8 minutos e a preparação de documentos de 2 dias para 20 minutos. O que saía da empresa continuava tendo o nome de uma pessoa preso à decisão.

As seis horas eram fila. Ninguém pensou por seis horas; a solicitação estava numa caixa de entrada. A automação é muito boa em remover espera, redigitação e consulta, e bastante ruim em carregar responsabilidade. Separar essas duas coisas é a maior parte do desenho.

Regra dois: exceções chegam com o contexto junto

Qualquer sistema que escala casos duvidosos para um humano gasta o tempo desse humano por desenho. A variável é o formato em que o escalonamento chega.

Um escalonamento que diz "precisa de revisão" faz quem aprova reconstruir a situação inteira antes de decidir, e essa reconstrução costuma ser mais longa que a decisão. Um escalonamento que chega com a conversa inteira, os dados que o sistema usou e o ponto exato da dúvida transforma uma reconstrução de cinco minutos num julgamento de trinta segundos.

Isso importa financeiramente, e não só em ergonomia. Taxa de escalonamento vezes tempo de quem aprova é um custo mensal que corre para sempre, e o lugar dele é na aritmética antes de alguém assinar, não na descoberta do terceiro mês.

Regra três: o sistema monta, não compõe

Em tudo que é contratual, a IA trabalha com templates que você aprovou e dados que passaram por validação. Ela preenche, seleciona, organiza. Cláusulas novas ela não escreve.

Essa é uma promessa mais estreita que "a IA redige seus contratos" e é justamente por isso que a revisão jurídica fica curta. Um revisor que confere se o template aprovado correto foi usado com os dados validados corretos faz um trabalho rápido e delimitado. Um revisor que procura numa frase gerada uma obrigação não intencional faz um trabalho lento e sem limites.

A mesma lógica cobre conteúdo regulado em geral: trabalho administrativo roda sozinho, julgamento profissional não roda. Numa implantação em clínica, o acolhimento do paciente caiu de 45 minutos para 8, as faltas caíram 40% e a papelada administrativa diminuiu três quartos. Todo julgamento clínico permaneceu com o profissional, e nada no sistema teve permissão de parecer um.

Regra quatro: toda decisão automática fica registrada

Se o sistema decidiu algo sozinho, existe um registro do que decidiu, com que entrada e quando. Não porque alguém leia isso rotineiramente, e sim porque as perguntas que acabam sendo feitas são retrospectivas: por que essa proposta saiu com aquele número, quando começamos a fazer assim, me mostre os dez casos anteriores à reclamação.

A trilha de auditoria também é a evidência que um mercado regulado pede, e é por isso que a conversa de compliance fica mais fácil quando o desenho operacional veio primeiro. Documentação escrita para descrever um sistema que já se comporta bem é honesta. Documentação escrita para descrever um sistema que ninguém restringiu é aspiração com capa.

Onde a linha é traçada

Não existe resposta universal, e qualquer fornecedor que ofereça uma está vendendo um pôster.

Tipo de decisão	Roda sozinha	Precisa de uma pessoa
Lembretes, agenda, roteamento, consultas	Sim	Não
Qualificação e triagem	Sim, com registro	Não
Tudo com preço, promessa ou contrato	Não	Sempre
Julgamento profissional em área regulada	Não	Sempre, com nome
O meio cinzento	Decidido por processo	Decidido por jurisdição

O meio cinzento é onde está o trabalho de verdade, e ele se resolve no diagnóstico com as pessoas que carregam a responsabilidade, antes de qualquer coisa ser construída. Uma clínica e uma imobiliária traçam a linha diferente no mesmo país. A mesma clínica a traça diferente em dois países.

Escrita antes de entrar no ar, essa linha é um projeto. Deduzida depois a partir do que o sistema por acaso fez, ela vira um relatório de incidente.

O que não temos

Não publicamos uma lista numerada de princípios, e este texto não é uma. O que existe são as quatro regras acima, aplicadas em mais de 200 fluxos implantados em mais de 50 empresas, com a linha redesenhada por processo no diagnóstico.

Se isso soa menos impressionante que um framework de seis pilares, é de propósito. A coisa útil de uma regra é que alguém consegue conferir numa terça-feira se ela se manteve, e depois contar para você o que aconteceu quando ela não se manteve.

Perguntas frequentes

01Uma etapa de aprovação humana anula a velocidade que vocês prometeram?+
Não anula, porque a parte lenta da maioria dos processos nunca foi a decisão. Numa implantação para uma imobiliária a primeira resposta foi de 6 horas para 8 minutos e a preparação de documentos de 2 dias para 20 minutos, e uma pessoa continuou assinando tudo que saía da empresa. As seis horas eram tempo de fila, não tempo de raciocínio: a solicitação ficava numa caixa de entrada até alguém chegar nela. A automação remove a espera, a redigitação, a consulta e a montagem, e entrega a uma pessoa uma coisa pronta para aprovar em um minuto. Isso é um uso completamente diferente da atenção de quem aprova. Os casos em que a aprovação realmente atrasa são aqueles em que quem aprova já era um gargalo, e isso aparece no diagnóstico como uma fila na frente de uma pessoa. Se encontramos, dizemos, porque automatizar até um aprovador travado apenas muda a fila de lugar.
02Onde exatamente a linha de aprovação deve ficar?+
Ela é definida por processo e por jurisdição, e não existe resposta universal que valha a pena imprimir. A regra que aplicamos é que tudo que vincula a empresa precisa de uma pessoa: um preço cotado, uma condição acordada, um compromisso assumido, um documento que possa ser lido como contrato. Tudo puramente administrativo pode rodar sozinho: um lembrete, uma decisão de roteamento, um horário na agenda, uma consulta de dados. Os casos interessantes ficam no meio, e são decididos no diagnóstico com as pessoas que carregam a responsabilidade. Uma clínica e uma imobiliária no mesmo país traçam a linha de formas diferentes, e a mesma clínica em dois países a traça de forma diferente de novo, porque a regulação e o dever profissional mudam. O que importa é que a linha esteja escrita antes de entrar no ar e revista quando o processo mudar, em vez de ser deduzida depois a partir do que o sistema por acaso fez.
03Quanto custa de fato manter a pessoa no circuito?+
Custa a taxa de escalonamento multiplicada pelo tempo de quem aprova, e esse valor pertence ao business case como uma linha mensal, e não como uma suposição. Se um processo roda 400 vezes por mês, escala 12% dos casos e cada escalonamento toma 4 minutos de quem aprova, isso dá cerca de 3 horas por mês do tempo de uma pessoa específica, todo mês, para sempre. Costuma ser uma boa troca e nunca é zero. Duas coisas tornam isso pior do que precisa ser: um escalonamento que chega sem contexto, obrigando quem aprova a reconstruir a situação antes de decidir, e um limiar de escalonamento que ninguém revisa depois do lançamento. Anexamos a conversa inteira e o motivo da dúvida a cada escalonamento pelo primeiro motivo, e revisamos limiares na entrega pelo segundo. Ao avaliar qualquer fornecedor, peça a taxa de escalonamento e o tempo médio de aprovação na mesma frase em que pede o retorno.
04Como isso difere de ética em IA e trabalho de compliance?+
Compliance responde a um regulador e produz documentos: classificação de risco, documentação do modelo, evidência de teste de viés, procedimentos de incidente. O desenho de humano no circuito responde ao operador e produz comportamento: qual decisão vai para onde, de quem é a responsabilidade, o que fica registrado. Os dois se sobrepõem, porque auditores pedem evidência de que existe uma etapa de revisão humana e de que ela é real em vez de nominal, e uma trilha de auditoria das decisões automáticas é exatamente a evidência que eles querem. Mas eles falham de formas diferentes. Uma empresa pode estar totalmente documentada e ainda assim colocar no ar uma automação que silenciosamente a compromete com um preço que ninguém pretendia, e uma empresa pode ter um desenho de aprovação sólido sem nenhum dos papéis que um mercado regulado vai exigir. As duas metades precisam ser feitas, e fazer a operacional primeiro tende a deixar a metade de papel honesta em vez de aspiracional.

Continue lendo