cd ~/open-source/

chrille@linux:~$ apt show langfuse

Langfuse

Langfuse är en plattform för LLM-teknik som hjälper dig att spåra, hantera prompts och utvärdera applikationer byggda på språkmodeller. Den passar dig som bygger chatbots eller agenter och vill förstå vad som händer i produktion. Du kör det på egen server och behåller kontrollen över all information.

Projektsidan för Langfuse
Projektets egen sida, som den såg ut vid importen.

Langfuse samlar spårning av anrop till språkmodeller, versionshantering av prompts och utvärderingar i ett verktyg. Du kan se exakt vilka anrop som görs, hur mycket de kostar och var modellen misslyckas. Teamet kan sedan debugga tillsammans och iterera på prompts och logik. Plattformen kan köras självhostad. Du kopplar på SDK:et i din applikation och börjar samla in händelser. Du kan också bygga dashboards och exportera data för vidare analys. För team som arbetar med LLM-applikationer är Langfuse ett konkret sätt att få ordning på kvaliteten och kostnaderna. Du kan bjuda in andra användare och styra exakt vad de får se och göra.