Langfuse"开放性的大型语言模型工程平台，提供可观测性、度量、评估和提示管理，用于调试和增强大型语言模型应用"

Langfuse 是一个开源 LLM（Large Language Model）工程平台，旨在帮助开发者构建、调试和提升 AI 代理与应用。它提供全面的可观测性、指标、评估与提示管理工具，使团队能够协作并持续改进 AI 产品的质量、成本及延迟。Langfuse 支持完整的 LLM 工程循环，从原型到生产，整合可观测性、提示管理、评估、实验和人工标注，构成统一的工作流。 该平台提供层级追踪等功能，捕获每一次 LLM 调用、工具调用和检索步骤，并可按用户、会话、费用、延迟或自定义元数据进行过滤。它还支持多种评估方式，包括 LLM 作为评判者、启发式函数以及人工审核。此外，Langfuse 提供一键部署与回滚的提示管理系统、用于测试提示的实验 playground，以及实验定义与对比工具。 Langfuse 与任何支持 OTel instrumentation 的语言和框架兼容，并拥有超过 100 个与流行代理框架、模型提供商以及其他工具的集成。它是一个采用 MIT license 的开放平台，允许用户大规模自托管并为社区做出贡献。Langfuse 已被超过 10 万名工程师以及 19 家 Fortune 50 企业使用，每月处理超过 100 亿条观测数据。