Hosting Langfuse sul tuo server.

Langfuse offre osservabilità e tracing per le applicazioni LLM: monitora prompt, risposte del modello, costi, latenza e valutazioni della qualità per ogni chiamata, con cronologia delle sessioni e dataset per i test di regressione. Le immagini Docker ufficiali langfuse/langfuse e langfuse/langfuse-worker includono container dedicati a Postgres, ClickHouse, Redis e MinIO: è la configurazione più pesante del catalogo Saplo, con sei container attivi contemporaneamente. Le chiavi API del progetto sono pronte subito dopo l'installazione e puoi copiarle negli SDK per Python e JS o nel proxy compatibile con OpenAI. Gli allegati multimediali nelle trace (immagini, audio) non vengono caricati correttamente dagli SDK esterni: l'archivio dei file è accessibile solo all'interno di Box, mentre il tracing testuale di base funziona senza limiti. Svolge un ruolo diverso rispetto a Grafana, Prometheus e GlitchTip, già presenti nel catalogo Saplo: questi ultimi osservano l'infrastruttura e gli errori delle applicazioni, non le chiamate ai modelli linguistici.

• Uno sviluppatore che costruisce la propria app AI su Box e oggi non vede quanto costano né quanto durano le chiamate al modello
• Un team che vuole testare le modifiche ai prompt su dataset salvati, invece di controllare manualmente ogni risposta del modello
• Un'azienda che implementa un chatbot o un assistente AI e ha bisogno di monitorare costi e qualità delle risposte senza affidare i dati a un servizio esterno come LangSmith