Colocar um chatbot ou um Agente de IA em produção não é a tarefa mais difícil. Difícil é responder, três semanas depois, a perguntas como: por que o custo com tokens dobrou na terça-feira? Qual prompt estava em uso quando aquele cliente recebeu uma resposta errada? O agente chamou a ferramenta certa ou entrou em loop? Quantas conversas por dia terminam com o usuário insatisfeito?

Aplicações baseadas em LLMs são não determinísticas, dependem de prompts que mudam com frequência, encadeiam múltiplas chamadas a modelos e ferramentas, e geram custo a cada requisição. Logs tradicionais e ferramentas de APM (Application Performance Monitoring) não foram desenhados para esse cenário. Foi exatamente essa lacuna que o Langfuse se propôs a preencher e se tornou a plataforma open-source mais adotada da categoria.

Neste post, você vai entender o que é o Langfuse, como ele funciona, o que mudou com a aquisição pela ClickHouse e com o lançamento da versão 4, e por que essa é uma ferramenta fundamental para profissionais de IA Generativa.

O Que é o Langfuse?

O Langfuse é uma plataforma open-source de Engenharia de IA Generativa (o termo que a própria equipe usa é “LLM Engineering Platform” ou, mais recentemente, “AI Engineering Platform”) voltada para times que desenvolvem aplicações e agentes baseados em Large Language Models. Ele reúne em um único produto quatro capacidades que costumavam exigir ferramentas separadas:

1. Observabilidade: rastreamento detalhado (tracing) de cada chamada a modelo, ferramenta, retriever ou função da sua aplicação.
2. Gestão de prompts: versionamento, labels de deploy e edição de prompts sem redeploy da aplicação.
3. Avaliação: scores automáticos (LLM-as-a-judge e avaliadores em código), datasets, experimentos e anotação humana.
4. Métricas e monitoramento: dashboards de custo, latência, volume e qualidade, com alertas.

O projeto é distribuído sob licença MIT, pode ser executado na nuvem gerenciada (Langfuse Cloud) ou em infraestrutura própria (self-hosted), e é construído sobre OpenTelemetry, o que reduz o lock-in e facilita a integração com stacks existentes.

Os números dão a dimensão da adoção: o repositório principal no GitHub ultrapassa 34 mil estrelas, a plataforma processa mais de 90 bilhões de observações por mês e a empresa afirma ter mais de 100 mil engenheiros e 50 mil empresas usando o produto, incluindo 21 das 50 maiores empresas da lista Fortune 50.

Um Pouco de História: De Startup do YC à Aquisição Pela ClickHouse

O Langfuse foi criado por Marc Klingen (CEO), Max Deichmann (CTO) e Clemens Rawert (COO), que começaram a trabalhar juntos em 2022 e passaram pelo Y Combinator na turma de inverno de 2023. A ideia surgiu de uma dor própria: ao construir aplicações com LLMs durante o programa, o time percebeu que não existia uma forma decente de enxergar o que acontecia dentro dessas aplicações em produção. A empresa é sediada em Berlim, na Alemanha.

Um marco técnico importante veio com a versão 3, quando o Langfuse migrou sua camada de dados de Postgres para ClickHouse. O motivo era simples: com milhões de traces, o Postgres deixava de responder em tempo aceitável para consultas analíticas e a experiência de debugar uma alucinação ou um pico de custo exige respostas em frações de segundo.

Essa escolha arquitetural acabou definindo o futuro da empresa. Em 16 de janeiro de 2026, a ClickHouse anunciou simultaneamente uma rodada Series D de 400 milhões de dólares, liderada pela Dragoneer, com valuation de 15 bilhões de dólares, e a aquisição do Langfuse. O valor da transação não foi divulgado. A justificativa, nas palavras de Marc Klingen, é que observabilidade e avaliação de LLMs são, no fundo, um problema de dados, e a integração entre as duas equipes permitiria entregar ingestão mais rápida e avaliações mais profundas.

Para a comunidade, o ponto mais relevante foi o compromisso público de manter o Langfuse como projeto open source sob licença MIT, com continuidade para os usuários atuais. Oito meses depois, o ritmo de lançamentos indica que a promessa está sendo cumprida: o changelog registra atualizações quase diárias e o site já traz a assinatura “by ClickHouse”.

Para quem acompanha o mercado de dados, a aquisição também é um sinal claro de estratégia: plataformas de banco de dados analíticos estão disputando a camada de “feedback loop” das aplicações de IA e a ClickHouse passou a competir diretamente com soluções de observabilidade de LLM de fornecedores como Datadog e New Relic.

Os Quatro Pilares em Detalhe

1. Observabilidade (Tracing)

O conceito central do Langfuse é o trace: o registro completo de uma execução da sua aplicação, do início ao fim. Dentro de um trace ficam as observações (observations), que podem ser de três tipos principais:

– Span: uma unidade de trabalho genérica (uma função, uma etapa de retrieval, uma chamada de API).
– Generation: uma chamada a um modelo de linguagem, com prompt, resposta, modelo utilizado, tokens consumidos e custo calculado automaticamente.
– Event: um ponto discreto no tempo, útil para marcar acontecimentos.

As observações são aninhadas, formando uma árvore. Isso permite, por exemplo, abrir um trace de um agente e ver que ele fez uma chamada ao modelo, decidiu invocar uma ferramenta de busca, recebeu o resultado, fez nova chamada ao modelo e produziu a resposta final, com o tempo e o custo de cada etapa. Para agentes complexos, o Langfuse oferece uma visualização em grafo (Graph View) com dois modos: um agregado, que resume a arquitetura, e um expandido, que mostra a execução exatamente como ocorreu.

Dois conceitos complementares organizam os traces:

– Sessões agrupam múltiplos traces de uma mesma conversa ou thread, essencial para chatbots multi-turno.
– Usuários permitem rastrear custo, volume e qualidade por usuário final.

Além disso, o Langfuse calcula custos automaticamente a partir de tabelas de preços de modelos (incluindo lançamentos recentes, como os modos de contexto longo da OpenAI), suporta entradas multimodais (imagens, áudio, documentos) e permite mascaramento de dados sensíveis no lado do cliente antes do envio.

2. Gestão de Prompts

Prompts são código, mas raramente são tratados como tal. O Langfuse resolve isso com um sistema de gerenciamento que funciona como um CMS de prompts: cada prompt tem versões numeradas (v1, v2, v3…) e labels como production e staging. Sua aplicação busca o prompt pela label em tempo de execução, o que significa que alguém do time pode ajustar o texto pela interface e publicar em produção sem um único deploy.

Cada trace registra qual versão do prompt foi usada, fechando o ciclo: ao encontrar uma resposta ruim, você sabe exatamente qual prompt a gerou. O sistema inclui ainda um Playground para testar prompts interativamente contra diferentes modelos, composição de prompts (um prompt referenciando outro), cache no cliente e no servidor, e, desde agosto de 2026, importação e exportação em lote no formato JSON.

3. Avaliação

Observar é o primeiro passo; medir qualidade é o segundo. O Langfuse suporta avaliação online (sobre tráfego real de produção) e offline (sobre datasets controlados), com vários mecanismos:

– LLM-as-a-judge: um modelo avalia as respostas de outro segundo critérios definidos por você (relevância, toxicidade, aderência ao contexto, etc.). Desde setembro de 2026, os avaliadores aceitam prompts multi-mensagem e entradas multimodais.
– Avaliadores em código: checagens determinísticas escritas em Python ou TypeScript, executadas dentro da própria plataforma sobre observações ou experimentos. Ideal para regras objetivas como “a resposta contém um JSON válido” ou “o agente chamou a ferramenta obrigatória”.
– Datasets e experimentos: você cria conjuntos de casos de teste (inclusive multimodais), roda a aplicação contra eles e compara versões de prompt ou de modelo com métricas reais.
– Anotação humana: filas de anotação com atalhos de teclado para que especialistas avaliem amostras rapidamente.
– Feedback do usuário: scores enviados diretamente do front-end (existe um SDK de browser que funciona apenas com a chave pública).

Em agosto de 2026, o fluxo de avaliação foi reformulado: avaliadores agora são entidades reutilizáveis e versionadas, com uma galeria de templates para casos comuns (chatbots, detecção de tópico, correspondência exata, agentes de código), APIs estáveis para gerenciamento e alertas vinculados diretamente a cada avaliador.

4. Métricas e Monitoramento

Tudo o que é rastreado alimenta dashboards customizáveis de custo, tokens, latência, volume e scores. Algumas adições recentes merecem destaque:

– Monitores e alertas: observam limites de custo, qualidade ou latência e notificam via Slack, webhooks ou GitHub Actions.
– Pulse: uma faixa de gráfico acima da tabela de observações que mostra picos de contagem, custo e latência; basta clicar ou arrastar sobre um pico para filtrar a tabela àquela janela.
– Qualquer tabela vira gráfico: com um toggle, a tabela de observações ou de scores se transforma em um gráfico que pode ser salvo em um dashboard.
– Langfuse Assistant: um agente dentro da interface que responde em linguagem natural a perguntas sobre seus traces, sessões e métricas, e que desde setembro de 2026 consegue analisar milhares de observações de uma vez.

Langfuse v4: O Que Mudou?

Em 17 de agosto de 2026, o Langfuse v4 chegou ao Langfuse Cloud e foi disponibilizado para instalações self-hosted. A mudança central está no modelo de dados.

Nas versões anteriores, traces e observações viviam em tabelas separadas e mutáveis. Cada consulta exigia um join entre as duas e a deduplicação de atualizações enviadas pelos SDKs. Isso funcionava, mas ficava lento conforme os projetos cresciam.

O v4 adota um modelo centrado em observações: os SDKs anexam os atributos de trace, como user_id e session_id, a cada observação antes da ingestão, e cada observação completa é gravada uma única vez em uma tabela ClickHouse ampla, denormalizada e imutável (append-only). Sem joins e sem deduplicação em tempo de leitura, o resultado é que carregamentos iniciais de tabelas grandes caem de segundos para milissegundos e dashboards sobre períodos longos ficam pelo menos 10 vezes mais rápidos em projetos grandes. O material de marketing fala em ganhos de até 165 vezes em alguns cenários.

Além da performance, o v4 consolidou as funcionalidades lançadas ao longo do primeiro semestre de 2026: monitores, avaliadores em código, barra de busca com filtros combináveis, busca full-text em entradas, saídas e metadados, Pulse, Assistant e as APIs v2 de Observações e Métricas com paginação por cursor.

Há um calendário a observar. O Langfuse Cloud passa a ser exclusivamente v4 em 16 de novembro de 2026, quando APIs, funcionalidades e ingestão legadas serão removidas. A maioria dos projetos não precisa de migração, mas existe um Assistente de Migração na interface que lista as ações necessárias. Para self-hosting não há data forçada de corte e a v3 continuará recebendo patches de segurança até janeiro de 2027.

Na Prática: Seu Primeiro Trace em Python

A forma mais simples de instrumentar uma aplicação Python é com o decorator `@observe` combinado ao wrapper do SDK da OpenAI, que substitui a importação original e captura automaticamente cada chamada ao modelo. Primeiro, configure as credenciais como variáveis de ambiente (você as obtém no projeto criado em cloud.langfuse.com ou na sua instância própria):

code1

Ao executar, um trace chamado pipeline-rag aparece na interface com dois spans aninhados. O span gerar-resposta contém uma generation com o modelo, os tokens de entrada e saída e o custo em dólares, tudo calculado automaticamente. Para chatbots, basta adicionar session_id e user_id via get_client().update_current_trace(…) para agrupar conversas e usuários.

Buscar um prompt gerenciado pela plataforma é igualmente direto:

Se você usa LangChain, LangGraph, LlamaIndex, CrewAI, Vercel AI SDK, LiteLLM ou qualquer um das mais de 100 integrações disponíveis, existe um callback ou handler pronto. E como a base é OpenTelemetry, aplicações em Java, Go ou qualquer outra linguagem podem exportar spans diretamente para o endpoint OTel do Langfuse.

Cloud ou Self-Hosted?

Uma das razões do sucesso do Langfuse em empresas reguladas é a facilidade de self-hosting. A arquitetura a partir da v3 depende de quatro componentes: Postgres (metadados transacionais), ClickHouse (dados analíticos de traces), Redis (filas e cache) e um armazenamento de objetos compatível com S3 (payloads grandes e mídia). Existem guias oficiais para Docker Compose, Kubernetes via Helm e Terraform para AWS, GCP e Azure.

Para experimentar localmente, o caminho é curto:

git clone https://github.com/langfuse/langfuse.git
cd langfuse
docker compose up

Em poucos minutos a interface estará disponível em http://localhost:3000. Uma novidade de setembro de 2026 é que instalações self-hosted passaram a incluir uma referência interativa da API em /api/docs, o que funciona inclusive em ambientes sem acesso à internet.

Se preferir a nuvem gerenciada, o Langfuse Cloud tem regiões nos Estados Unidos, União Europeia e Japão, além de uma região preparada para HIPAA nos planos superiores.

Langfuse e a Era dos Agentes

O reposicionamento mais visível do Langfuse em 2026 é o foco em Agentes de IA. Além da visualização em grafo, a plataforma passou a tratar os próprios agentes de código:

– Servidor MCP hospedado: agentes como Claude Code, Cursor ou Codex podem consultar traces, métricas, scores, datasets e experimentos, criar dashboards e configurar avaliadores diretamente via Model Context Protocol.
– Langfuse CLI 1.0: reescrita do zero em agosto de 2026, com inicialização mais de 10 vezes mais rápida e códigos de saída legíveis por agentes, pensada para automação e pipelines de CI/CD.
– Agent Skill: um “playbook” que ensina agentes de código a instrumentar e avaliar aplicações com o Langfuse seguindo as boas práticas da plataforma.
– Avaliação de tool calls: avaliadores em código e LLM-as-a-judge têm acesso direto às chamadas de ferramenta registradas, permitindo verificar se o agente usou os recursos corretos na ordem correta.

Na prática, isso significa que o ciclo “observar em produção, encontrar o problema, corrigir o prompt ou o código, validar com experimento, publicar” pode ser executado com participação ativa de Agentes de IA, com o Langfuse servindo como fonte de verdade.

Como o Langfuse se Compara às Alternativas?

O mercado de observabilidade de LLM ficou competitivo. Vale posicionar o Langfuse em relação às principais opções:

– LangSmith (LangChain): a alternativa mais direta, com integração muito profunda no ecossistema LangChain e LangGraph. É um produto proprietário; o self-hosting existe apenas no plano enterprise. Se o seu time é totalmente LangChain e não precisa hospedar os dados, é uma escolha natural.
– Arize Phoenix: também open-source e baseado em OpenTelemetry, com forte tradição em avaliação e análise de embeddings. Costuma ser preferido por times com origem em MLOps clássico.
– Opik (Comet), Helicone e Braintrust: cada um com ênfases próprias (avaliação, proxy de gateway, experimentação), todos com camadas gratuitas.
– Datadog, New Relic, Dynatrace: os grandes players de APM adicionaram módulos de LLM observability. Fazem sentido para quem já concentra toda a observabilidade neles e aceita o custo.

Os diferenciais que os usuários mais citam no Langfuse são a licença MIT sem funcionalidades essenciais escondidas atrás de paywall, a facilidade real de self-hosting, a independência de framework e a integração nativa entre tracing, prompts e avaliação. A aquisição pela ClickHouse adicionou a esse conjunto a garantia de escala e de longevidade financeira, algo relevante quando se escolhe uma ferramenta para ficar no centro da operação.

Por Que Isso Importa Para Você?

Se você trabalha ou pretende trabalhar com Engenharia de IA Generativa, LLMOps, arquitetura de agentes ou mesmo análise de dados em empresas que estão adotando IA Generativa, dominar uma plataforma de observabilidade deixou de ser opcional.

Três razões práticas:

1- Custo é uma métrica de negócio. Cada chamada a um LLM tem preço, e aplicações com agentes multiplicam chamadas. Saber exatamente onde o dinheiro está sendo gasto, por usuário, por funcionalidade e por versão de prompt, é o que separa um projeto sustentável de um que será cancelado no próximo ciclo de orçamento.

2- Qualidade precisa ser medida, não sentida. “Parece que melhorou” não é argumento em uma reunião de produto. Datasets, experimentos e scores transformam a evolução de uma aplicação de IA em um processo de engenharia, com regressões detectadas antes de chegarem ao cliente.

3- Os dados de produção são o ativo mais valioso. Traces reais, com feedback de usuários e anotações de especialistas, são a matéria-prima para melhorar prompts, escolher modelos, construir conjuntos de avaliação e, eventualmente, fazer fine-tuning. Uma plataforma como o Langfuse é o lugar onde esse ativo é acumulado e organizado.

Para quem está estudando arquitetura de agentes, RAG ou LLMOps, instrumentar os próprios projetos com Langfuse é um dos exercícios de maior retorno que existem: em uma tarde, você passa a enxergar sua aplicação de IA como uma engenheira ou um engenheiro de produção a enxergaria.

Conclusão

Em três anos, o Langfuse saiu de um projeto de garagem do Y Combinator para o centro da estratégia de IA de uma empresa avaliada em 15 bilhões de dólares, sem abrir mão da licença MIT e da possibilidade de rodar em qualquer infraestrutura. A versão 4 resolveu o principal gargalo de escala e a sequência de lançamentos de 2026 mostra um produto em movimento acelerado na direção dos agentes.

Se sua aplicação de IA ainda funciona no escuro, este é um bom momento para acender a luz.

LangFuse pode ser encontrado nas Formações: Formação Generative AI Engineer 4.0, Formação Forward Deployed Engineer 4.0 e Formação AI Software Engineer 4.0 aqui mesmo, na DSA.

Equipe DSA