{{ sec.title }}
{{ b.text }}
{{ ln.text }}
| {{ c.label }} |
|---|
| {{ cell.label }} |
{{ post.quote }} CESAR A. MACHADO

Um manual para gestores que querem consultar documentos internos com respostas rastreáveis, permissões preservadas e um piloto que possa ser medido e interrompido.
Por Cesar A. Machado · · 13 min
Sim. Para uma empresa brasileira de 20 a 100 funcionários, o caminho mais seguro costuma ser um assistente de busca com recuperação aumentada por contexto (RAG): a pessoa pergunta, o sistema recupera trechos de um acervo aprovado e o modelo redige uma resposta acompanhada das fontes. O assistente não deve ser a fonte da verdade, decidir sozinho sobre pessoas, alterar documentos ou consultar todo o armazenamento por padrão. A fonte da verdade continua sendo o documento vigente, sob responsabilidade da área que o publicou. A retomada exige causa registrada, responsável definido e repetição dos testes críticos antes de liberar novos usuários.
O problema real não é falta de inteligência artificial. É a combinação de arquivos duplicados, nomes inconsistentes, versões sem dono, permissões difíceis de entender e perguntas que chegam por canais diferentes. O objetivo inicial deve ser reduzir o esforço para localizar uma regra já aprovada, sem ampliar o acesso de ninguém. Defina três limites antes de escolher fornecedor: quais coleções entram, quais perguntas ficam fora e quais respostas exigem validação humana.
A primeira decisão de gestão é escolher uma família de perguntas de baixo risco e alto volume, como procedimentos internos, benefícios documentados ou políticas de atendimento. Deixe para depois contratos confidenciais, dados de saúde, informações salariais, investigações, decisões disciplinares e qualquer fluxo que possa produzir obrigação financeira ou jurídica. O piloto deve responder a uma pergunta operacional mensurável, não demonstrar que o modelo é capaz de conversar.
Comece com uma planilha de controle contendo, para cada coleção: nome, área proprietária, finalidade, localização original, formato, última revisão, prazo de retenção, classificação, grupos autorizados e ação quando houver conflito. A entrada não é apenas o arquivo. É o arquivo mais seu contexto de governança. Um PDF chamado politica_final_v7.pdf sem proprietário e sem data não está pronto para responder por uma regra corporativa.
Separe pelo menos quatro estados: aprovado e vigente; aprovado, mas com revisão vencida; rascunho; e rejeitado ou duplicado. Só o primeiro estado deve alimentar respostas automáticas no piloto. Documentos vencidos podem aparecer em uma fila para o responsável, mas não devem competir silenciosamente com o vigente. Para cada arquivo, extraia texto preservando página, título, seção, data, autor ou área e identificador da versão. Se a extração quebrar tabelas, anexos ou negações, marque o item como não confiável para recuperação.
| Decisão | Responsável primário | Saída verificável |
|---|---|---|
| O que pode entrar | Dono da área + jurídico/privacidade quando aplicável | Lista de coleções aprovadas e excluídas |
| Qual é a versão válida | Dono do documento | Identificador, data e regra de desempate |
| Quem pode consultar | TI + gestor da área | Grupos e escopos testados |
| Quando revisar | Dono do documento | Prazo, evento de revisão e alerta |
| O que fazer em conflito | Comitê do piloto | Encaminhamento e bloqueio definidos |
Se houver dados pessoais, trate a governança como requisito do produto. A LGPD define segurança como medidas técnicas e administrativas contra acessos não autorizados e também exige prevenção, qualidade dos dados, transparência e responsabilização. Isso não significa que um assistente esteja proibido; significa que finalidade, necessidade, acesso, retenção, registro e resposta a incidentes precisam estar definidos. A ANPD mantém orientação específica sobre segurança da informação para agentes de tratamento de pequeno porte, útil para transformar esse cuidado em controles proporcionais para organizações menores.
O fluxo mínimo tem oito passos: autenticar a pessoa; resolver grupos e escopo; validar a pergunta; buscar apenas nos índices permitidos; selecionar trechos; gerar resposta com instrução de não extrapolar; registrar fontes e resultado; e oferecer correção ou escalonamento. A autorização acontece antes da recuperação. O modelo nunca deve receber trechos que a pessoa não poderia abrir no sistema original. Esconder o nome do arquivo na tela não corrige um vazamento ocorrido no contexto enviado ao provedor.
Modele a permissão como metadado do trecho: identificador do documento, grupos autorizados, usuários autorizados quando necessário, classificação e origem. No momento da consulta, derive o filtro a partir da identidade autenticada no servidor. Não aceite um campo de grupo enviado pelo navegador como prova. Se o provedor não oferecer filtragem por documento ou se a integração não transportar a identidade de forma verificável, reduza o escopo para uma coleção pública internamente ou interrompa o projeto.
A resposta deve ter quatro partes: conclusão curta; evidências com título, versão/data e localização; limite ou ambiguidade; e próximo passo. Para perguntas fora do acervo, use uma saída explícita: Não encontrei uma fonte aprovada para responder. Consulte a área responsável. Para conflito entre documentos, mostre o conflito e pare. Não peça ao modelo para escolher a versão mais recente por inferência quando a data ou o status não estiverem confiáveis. RAG reduz a distância entre a resposta e o acervo, mas não torna o conteúdo recuperado confiável por definição. Documentos podem conter instruções maliciosas, texto extraído errado ou informação desatualizada. A lógica da aplicação deve tratar o trecho como dado não confiável, manter as regras de segurança fora do documento e impedir que uma frase recuperada altere permissões, ferramentas ou instruções do sistema. Registre modelo, versão da aplicação, consulta normalizada, documentos usados, decisão de bloqueio e tempo de resposta, respeitando a minimização de dados. Ao comparar fornecedores, peça demonstração de quatro comportamentos, não uma lista de modelos: como a identidade do usuário chega à consulta; como uma permissão revogada deixa de retornar resultados; como se identifica a fonte exata; e como exportar ou apagar dados. Pergunte onde os dados são processados, quais registros ficam retidos, quais suboperadores participam, como ocorre a revogação de credenciais e qual é o prazo de notificação de incidente previsto em contrato. A resposta comercial precisa virar requisito testável e cláusula revisável.
Escolha uma área com um responsável disponível e uma coleção que possa ser revisada em poucas semanas. Um piloto útil tem uma lista fechada de perguntas antes de começar: perguntas frequentes, sinônimos, pedidos incompletos, conflito de versão, documento ausente, tentativa de acesso indevido e pergunta sem relação. Inclua usuários de perfis diferentes, porque a mesma pergunta pode ter fontes diferentes conforme o grupo autorizado.
Para cada rodada, o responsável compara a saída com a fonte e classifica o resultado. Correto significa que a conclusão é compatível com o trecho e que a pessoa tinha autorização. Parcial significa que faltou condição, exceção ou contexto. Sem suporte significa que a resposta deveria ter sido bloqueada. Inseguro significa que houve exposição, citação falsa, instrução inventada ou ação fora do escopo. As três últimas categorias viram tarefa de correção; não são ajustes de tom.
| Teste | Passa quando | Interrompe quando |
|---|---|---|
| Fonte vigente | Cita trecho e versão corretos | Mistura versões ou inventa localização |
| Sem evidência | Recusa e encaminha | Responde com opinião apresentada como regra |
| Acesso restrito | Não recupera nem resume o documento | Qualquer trecho aparece ao usuário errado |
| Pergunta ambígua | Pede contexto ou delimita | Escolhe uma interpretação de alto impacto |
| Documento mal extraído | Sinaliza falha ou exclui o item | Responde usando texto truncado |
Publique primeiro para um grupo pequeno, com acesso de leitura, botão de reportar problema e um canal de atendimento humano. Não conecte o assistente a e-mail, ERP, folha, CRM ou sistemas que alterem dados enquanto a busca não estiver estável. Uma implantação gradual permite comparar o comportamento real, limitar o raio de impacto e retirar uma coleção sem desmontar a aplicação inteira.
Cenário hipotético — não é relato de cliente. Premissas: empresa com 60 funcionários; 24 pessoas fazem perguntas internas pelo menos três vezes por semana; cada busca manual leva em média 12 minutos; o piloto pretende reduzir esse tempo para 4 minutos quando houver fonte; período de análise de quatro semanas; custo interno de referência de R$ 45 por hora. Esses números são apenas uma régua para a decisão e precisam ser substituídos por medições da sua empresa.
Fórmula: horas recuperáveis no período = número de usuários × perguntas por usuário por semana × semanas × (minutos antes − minutos depois) ÷ 60. Aplicando as unidades: 24 usuários × 3 perguntas/semana × 4 semanas × (12 − 4) minutos ÷ 60 = 38,4 horas recuperáveis em quatro semanas. Valor de referência: 38,4 horas × R$ 45/hora = R$ 1.728 no período. O cálculo não inclui implantação, licenças, revisão do acervo, suporte, treinamento, custo de erro nem o valor de perguntas que o sistema bloqueou.
O limite é importante: tempo recuperável não é automaticamente lucro, nem prova de retorno. Se as respostas erradas gerarem retrabalho ou risco, o saldo pode ser negativo. Meça também perguntas respondidas com fonte, perguntas bloqueadas corretamente, minutos até a fonte abrir, correções humanas e incidentes de permissão. Compare com uma linha de base observada por duas semanas. Só amplie se o ganho permanecer sem uma pessoa corrigindo manualmente cada resposta. Se você quer transformar esse cálculo em um piloto delimitado, descreva o processo, o acervo e o volume em https://blog.cesarmachado.com/contato. O diagnóstico deve confirmar primeiro se busca determinística, reorganização de pastas ou uma base de conhecimento simples resolve melhor do que um assistente generativo.
O gestor precisa de um painel curto, com período e denominador claros. Cobertura de fonte = respostas com pelo menos uma fonte aprovada ÷ respostas que deveriam usar o acervo. Bloqueio correto = recusas validadas ÷ perguntas sem evidência suficiente. Acesso negado corretamente = tentativas sem documento exposto ÷ tentativas de acesso indevido. Latência de recuperação e custo por pergunta mostram se a experiência cabe na rotina. Não use número de respostas como métrica de sucesso: responder mais pode significar inventar mais.
A área dona mede validade e completude do conteúdo; TI mede identidade, filtros, disponibilidade, logs e custo; privacidade ou jurídico avalia finalidade, contratos e incidentes quando aplicável; a liderança decide escopo e tolerância a risco. Cada métrica precisa de um responsável e de uma ação associada. Se a taxa de fonte cair, revise ingestão e documentos. Se o bloqueio subir, investigue cobertura e clareza das perguntas antes de trocar o modelo. Se o tempo de resposta subir, examine recuperação, quantidade de trechos e limite de contexto. Planeje uma janela de atualização: ingestão incremental após publicação, verificação de remoção após revogação e revisão humana para alterações relevantes. A atualização não termina quando o arquivo chega ao índice; termina quando a versão antiga deixa de ser recuperada e o log registra a troca. Teste também a restauração de uma configuração conhecida, porque um índice sem procedimento de recuperação é um componente difícil de operar.
Faça amostragem semanal de perguntas, incluindo as que foram respondidas e as que foram recusadas. Guarde o mínimo necessário para investigação: identificador, horário, usuário ou grupo conforme a política, fontes, resultado, erro classificado e versão do sistema. Evite registrar documentos inteiros ou prompts com dados pessoais sem necessidade. Defina retenção e quem pode consultar os logs. Auditoria útil permite reconstruir o que ocorreu sem criar um novo acervo sensível.
Os riscos mais sérios não são apenas respostas com português ruim. São vazamento por filtro ausente; resposta apoiada em versão revogada; citação que não sustenta a conclusão; extração que omite uma exceção; prompt injection em documento; registro excessivo de dados pessoais; indisponibilidade do provedor; e dependência de uma pessoa que conhece uma configuração crítica. Para cada risco, registre causa, sinal de detecção, responsável, contenção e caminho de recuperação.
Exceções devem ter tratamento definido. Se o documento estiver ilegível, exclua-o da recuperação e encaminhe para correção. Se houver duas versões vigentes sem regra de prioridade, bloqueie e peça decisão ao dono. Se a pergunta exigir dado individual, use o sistema transacional autorizado, não um resumo improvisado. Se o provedor externo mudar retenção, região, modelo ou contrato, suspenda o envio de novos dados até a revisão. Se o usuário pedir uma ação que altere registros, mantenha o assistente em modo de orientação e exija o fluxo oficial.
Critérios de interrupção imediata: qualquer documento entregue a grupo não autorizado; resposta operacional sem fonte em um caso de alto impacto; repetição de uma falha crítica após correção; perda de rastreabilidade; ou impossibilidade de revogar uma coleção. Desative o índice ou o acesso do grupo, preserve os registros do incidente, comunique os responsáveis e só reabra após teste de regressão documentado. Planeje a saída antes da compra: exportação do inventário, cópia dos metadados de permissão, lista de documentos, configuração versionada, logs necessários e procedimento para remover a integração. Faça teste de revogação com contas de teste. O fornecedor pode oferecer controles importantes, mas a empresa continua responsável por decidir o que enviar, quem acessa e como responde a um incidente. Segurança de rede, identidade, contrato e operação precisam aparecer no desenho, não apenas no checklist de lançamento.
Dias 1 a 5: escolha um processo, meça a linha de base e nomeie dono, operador e aprovador. Faça o inventário de uma coleção; classifique documentos; remova duplicatas óbvias; registre grupos e exceções. Entregável: mapa de escopo com perguntas permitidas, perguntas proibidas, documentos aceitos e critérios de parada.
Dias 6 a 12: prepare a extração, os metadados e o filtro de identidade em ambiente de teste. Verifique se o sistema consegue negar o documento antes de gerar a resposta. Crie o formato de citação e uma mensagem de insuficiência. Entregável: índice pequeno, conjunto de contas de teste e registro de cada fonte recuperada.
Dias 13 a 20: rode perguntas pré-selecionadas com usuários de perfis distintos. Compare resposta, fonte, permissão, tempo e intervenção com a linha de base. Corrija primeiro conteúdo e autorização; só depois ajuste instruções, segmentação de trechos ou modelo. Entregável: relatório de falhas classificadas e decisão de manter, reduzir ou parar. Dias 21 a 30: abra para um grupo limitado, publique canal de suporte, monitore métricas e revise uma amostra semanal. Documente a rotina de atualização, revogação, backup lógico, mudança de fornecedor e resposta a incidente. Entregável: decisão de expansão com custo mensal, responsáveis, riscos aceitos e data de nova revisão. Se os critérios não forem atingidos, o resultado correto é encerrar ou voltar uma etapa. Registre ainda a decisão em ata simples, com data, versão do acervo, nome do aprovador e hipótese que faria a empresa recuar. Isso transforma aprendizado do piloto em memória institucional, mesmo quando a equipe ou o fornecedor mudar. Se a sua empresa já tem um acervo e precisa decidir entre organizar a base, implantar busca ou construir um assistente, envie o contexto em https://blog.cesarmachado.com/contato. Inclua área, tipo de documento, grupos de acesso e principal métrica; uma recomendação responsável começa pelo limite do problema, não pelo nome do modelo.
Lei Geral de Proteção de Dados Pessoais (LGPD), Planalto: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709compilado.htm. Sustenta as referências a finalidade, necessidade, qualidade, transparência, segurança, prevenção e responsabilização no tratamento de dados pessoais.
ANPD, Materiais Educativos e Publicações: https://www.gov.br/anpd/pt-br/centrais-de-conteudo/materiais-educativos-e-publicacoes. Sustenta a indicação do Guia Orientativo de Segurança da Informação para agentes de tratamento de pequeno porte e a necessidade de controles proporcionais para organizações menores.
NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence. Sustenta a organização de riscos em governar, mapear, medir e gerenciar ao longo do ciclo de vida, além da recomendação de avaliação e documentação de riscos de IA generativa. Microsoft Learn, Retrieval augmented generation (RAG) and indexes in Microsoft Foundry: https://learn.microsoft.com/en-us/azure/foundry/concepts/retrieval-augmented-generation. Sustenta a descrição do RAG como combinação de busca e modelo de linguagem, os custos adicionais de recuperação, embeddings e tokens e a recomendação de aplicar controle de acesso no momento da recuperação. Microsoft Learn, Best Practices for Security - Azure AI Search: https://learn.microsoft.com/en-us/azure/search/search-security-best-practices. Sustenta as orientações sobre identidade, menor privilégio, filtragem por documento, auditoria, rede restrita e o fato de que chaves de serviço não substituem isolamento no nível da aplicação.
Um assistente confiável não é o que responde tudo; é o que sabe quando a fonte não sustenta a resposta.
Converse comigo sobre o processo que você quer melhorar e os critérios para começar com segurança.
Agendar uma conversaO que eu uso e construo em engenharia de IA.
Portfólio de projetos. Conteúdo a definir.
Quem é Cesar A. Machado.
{{ st.desc }}
{{ sv.desc }}
Sem frequência fixa. Só quando houver algo útil.
Notas de campo, decisões técnicas e guias práticos sobre engenharia de IA, arquitetura, automação e operação.
{{ sobreLead }}
{{ sobreBody }}
{{ item.text }}
Os projetos são apresentados pelo problema e pela engenharia envolvida, preservando informações internas. O objetivo é mostrar como decisões de produto, arquitetura e operação se conectam.
{{ item.text }}
{{ item.linkLabel }} →Um projeto começa com uma pergunta de negócio, avança por uma primeira versão controlada e só cresce quando os dados mostram que a solução cabe na operação.
{{ item.text }}
“{{ item.quote }}”
O ponto de partida é um processo específico, com responsável, volume e impacto identificáveis. A solução precisa caber na capacidade da equipe, produzir evidência e preservar controle sobre decisões importantes.
Envie o fluxo atual, o volume aproximado e o principal gargalo. A primeira conversa serve para entender o problema e avaliar o próximo passo mais proporcional.
Clique em uma ferramenta para abrir. Conteúdo de cada uma a definir.
{{ t.desc }}
Projetos de software e ecossistemas construídos com engenharia de IA. Conteúdo de cada caso a definir.
{{ p.desc }}
{{ detail.desc }}
Conte qual processo da sua empresa precisa melhorar. Não precisa ter uma solução de IA definida nem levantar números agora. Para começar, preciso apenas do processo, do seu nome e do e-mail para responder.
Obrigado. Vou ler o contexto e responder pelo e-mail informado para entender os próximos passos.
{{ formError }}
{{ post.standfirst }}
{{ b.text }}
{{ ln.text }}
| {{ c.label }} |
|---|
| {{ cell.label }} |
{{ post.quote }} CESAR A. MACHADO
Escreve sobre engenharia de IA e conduz projetos de software e ecossistemas para empresas.
LINKEDIN · /IN/CEZAO{{ post.citation }}
Conteúdo original, revisado pelo autor. Reprodução permitida com atribuição e link.O endereço pode estar incorreto ou o artigo ainda não está publicado.