LangfusePlataforma de ingeniería de modelo de lenguaje de código abierto que ofrece observabilidad, métricas, evaluaciones y gestión de preguntas para depurar y mejorar aplicaciones de modelos de lenguaje grande.

Langfuse es una plataforma de ingeniería de LLM (Modelo de Lenguaje Grande) de código abierto diseñada para ayudar a los desarrolladores a construir, depurar y mejorar agentes y aplicaciones de inteligencia artificial. Ofrece un conjunto integral de herramientas para observabilidad, métricas, evaluaciones y gestión de indicaciones, lo que permite a los equipos colaborar y mejorar continuamente la calidad, el costo y la latencia de sus productos de inteligencia artificial. Langfuse admite todo el ciclo de ingeniería de LLM, desde el prototipo hasta la producción, al integrar observabilidad, gestión de indicaciones, evaluaciones, experimentos y anotación humana en un solo flujo de trabajo. La plataforma ofrece características como el rastreo jerárquico, que captura cada llamada a LLM, invocación de herramientas y paso de recuperación, y permite filtrar por usuario, sesión, costo, latencia o metadatos personalizados. También admite varios métodos de evaluación, incluyendo LLM como juez, funciones heurísticas y revisión humana. Además, proporciona un sistema de gestión de indicaciones con despliegues y reversiones con un solo clic, un área de pruebas para probar indicaciones y herramientas de definición y comparación de experimentos. Langfuse funciona con cualquier lenguaje y marco que admita la instrumentación OTel y tiene más de 100 integraciones con marcos de agentes populares, proveedores de modelos y otras herramientas. Es una plataforma abierta con una licencia MIT, que permite a los usuarios autoalojarse a escala y contribuir a la comunidad. Langfuse es utilizado por más de 100.000 ingenieros y 19 de las empresas Fortune 50, manejando más de 10 mil millones de observaciones al mes.