Hosting de Langfuse en tu propio servidor.

Langfuse ofrece observabilidad y tracing para aplicaciones LLM: seguimiento de prompts, respuestas del modelo, costes, latencia y evaluaciones de calidad de cada llamada, con historial de sesiones y datasets para pruebas de regresión. Las imágenes oficiales de Docker langfuse/langfuse y langfuse/langfuse-worker, con contenedores propios de Postgres, ClickHouse, Redis y MinIO, son la configuración más pesada del catálogo de Saplo: seis contenedores a la vez. Las claves API del proyecto están listas en cuanto terminas el despliegue, para pegarlas en el SDK (Python, JS o un proxy compatible con OpenAI). Los adjuntos multimedia durante el tracing (imágenes, audio) no se suben correctamente desde un SDK externo: el almacén de archivos solo está disponible dentro de Box, mientras que el tracing de texto básico funciona sin limitaciones. Cumple una función distinta de Grafana, Prometheus o GlitchTip, que también están en el catálogo de Saplo: ellos supervisan la infraestructura y los errores de las aplicaciones, no las llamadas a los modelos de lenguaje.

• Un desarrollador que crea su propia aplicación de IA en Box y hoy no ve cuánto cuestan ni cuánto tardan las llamadas al modelo
• Un equipo que quiere probar los cambios en los prompts usando datasets guardados en lugar de comprobar manualmente cada respuesta del modelo
• Una empresa que implementa un chatbot o un asistente de IA y necesita visibilidad sobre los costes y la calidad de las respuestas sin entregar los datos a un servicio externo como LangSmith