O que é preciso para colocar um sistema de IA em produção?

Busca híbrida, verificação da resposta antes de exibi-la e métricas por etapa: custo por requisição, latência e taxa de acerto. RAG de tutorial, com pergunta, top-K e resposta, quebra com sinônimos, siglas e perguntas de acompanhamento.

Dá para usar os documentos internos sem mandar tudo para fora?

Dá, e isso é decisão de arquitetura, não de modelo. Busca e armazenamento ficam na sua infraestrutura, e só o trecho necessário vai para o modelo. Quando a política da empresa exige que nada saia, o caminho é modelo executado no seu ambiente, com o custo e o desempenho que isso implica, e eu digo esse trade-off antes de você decidir.

Como sei que o sistema melhorou depois de um ajuste?

Com um conjunto de perguntas reais com resposta conhecida, rodado a cada mudança. Cinquenta perguntas já pegam a maior parte das regressões. É o que transforma “achei que melhorou” em “melhorou 12%”.

IA em produção: o que sobrevive fora da demo

RAG com busca híbrida e resposta verificada, agentes com grafo explícito de estados e perguntas em português virando SQL auditável. Com custo por requisição, latência e taxa de acerto medidos desde o primeiro dia.

A demo funciona porque quem pergunta é quem construiu. A pergunta sai com as mesmas palavras do documento, uma por vez, sem contexto anterior. Em produção, quem pergunta é alguém que não leu o documento, usa outra palavra para a mesma coisa e emenda uma segunda pergunta sem repetir o assunto.

É aí que a arquitetura de três linhas quebra, e quase sempre pelos mesmos três motivos: sinônimo e sigla, pergunta de acompanhamento, e resposta plausível construída em cima de trecho errado. Nenhum deles se resolve trocando de modelo.

O que eu entrego é a engenharia ao redor do modelo, que é onde mora a diferença entre impressionar numa reunião e aguentar uso diário.

RAG
LangGraph
MCP
Text-to-SQL
pgvector
observabilidade

Quando faz sentido

CHAME PARA ISSO

Existe muita informação em texto, mudando com frequência, que hoje alguém precisa ler para responder pergunta de cliente ou de time interno.
A empresa já tem um protótipo com LLM que ninguém confia o suficiente para colocar na frente do cliente.
A pessoa de negócio precisa de número que está no banco, e hoje depende de alguém escrever a consulta.
A conta da API de modelo cresce todo mês e ninguém sabe o custo por requisição.

NÃO CHAME PARA ISSO

A informação está estruturada num banco e a pergunta é sempre a mesma. Aí o certo é gerar SQL ou fazer um relatório, não montar pipeline de busca.
São cinco documentos que cabem inteiros no contexto. Mande os cinco.
O dado está desatualizado na origem. Nenhuma arquitetura de recuperação conserta isso, e o problema é outro.

O que você recebe

Recuperação que aguenta vocabulário real

Busca híbrida, vetorial e por palavra-chave, com os resultados combinados e reordenados. Uma cobre o buraco da outra justamente nas consultas que mais irritam o usuário: as que têm sigla, código ou nome próprio no meio.

Verificação antes de exibir

Um passo entre recuperar e responder, que checa se os trechos sustentam a resposta. Quando não sustentam, o sistema reescreve a consulta e tenta de novo, ou admite que não sabe. “Não encontrei isso na base” é resposta aceitável; resposta inventada com fonte falsa não é.

Agentes com limite explícito

Grafo de estados em vez de laço torcendo para convergir. Delegação, ferramentas e critério de parada definidos, para o sistema não gastar dez chamadas onde bastavam duas.

Observabilidade desde o primeiro dia

Custo por requisição quebrado por etapa, latência por etapa e taxa de acerto contra um conjunto de perguntas reais, rodado a cada mudança. Sem isso, ajustar sistema de LLM é chute com sotaque técnico.

Perguntas

O que é preciso para colocar um sistema de IA em produção?: Busca híbrida, verificação da resposta antes de exibi-la e métricas por etapa: custo por requisição, latência e taxa de acerto. RAG de tutorial, com pergunta, top-K e resposta, quebra com sinônimos, siglas e perguntas de acompanhamento.
Dá para usar os documentos internos sem mandar tudo para fora?: Dá, e isso é decisão de arquitetura, não de modelo. Busca e armazenamento ficam na sua infraestrutura, e só o trecho necessário vai para o modelo. Quando a política da empresa exige que nada saia, o caminho é modelo executado no seu ambiente, com o custo e o desempenho que isso implica, e eu digo esse trade-off antes de você decidir.
Como sei que o sistema melhorou depois de um ajuste?: Com um conjunto de perguntas reais com resposta conhecida, rodado a cada mudança. Cinquenta perguntas já pegam a maior parte das regressões. É o que transforma “achei que melhorou” em “melhorou 12%”.

Um caso escrito por extenso: O que separa um RAG de demo de um RAG em produção.

Tem um caso desses?

Me conte em duas linhas. Respondo em até 24h dizendo se é o tipo de coisa que eu faço bem, e se não for, digo isso também.

NERIFILHO1256@GMAIL.COM WHATSAPP

PRESENCIAL EM JOÃO PESSOA · CAMPINA GRANDE · RECIFE · CARUARU · NATAL, REMOTO NO RESTO DO BRASIL E NO EXTERIOR