Langfuse ist eine Open-Source-LLM-Entwicklungsplattform, die Teams bei der gemeinsamen Fehlersuche, Analyse und Weiterentwicklung ihrer LLM-Anwendungen unterstützt.
Wir nutzen Langfuse für Tracing und Prompt-Management in Zammad-AI, RIS-KI und der Dienstleistungsfinder KI-Suche. Bei MUCGPT ist Observability mit Langfuse optional.
Alles basiert dabei auf offenen Standards: Alle Traces sind OpenTelemetry-Spans mit den GenAI-Semantic-Conventions (Modell, Eingaben, Ausgaben, Tokenverbrauch), die über das offene OTLP-Protokoll einlaufen. Langfuse verarbeitet OTLP seit v4 nativ ohne Reverse-Proxy — Traces und Observationen kommen nun über OTLP statt über die veraltete Ingestion-API, die weiterhin andere Ereignistypen wie Scores und SDK-Logs verarbeitet. So bleibt unser Observability herstellerneutral: Dasselbe Telemetrie-Feed kann künftig auch von jedem anderen OTLP-fähigen Backend konsumiert werden.