Langfuse - obserwowalność i tracing aplikacji LLM: prompty, koszty, latencja i oceny jakości wywołań modeli.
Środowisko
| Runtime | Oficjalne obrazy Docker langfuse/langfuse i langfuse/langfuse-worker, własny Postgres, ClickHouse, Redis i MinIO w komplecie, sześć kontenerów |
| Zalecany plan | Box L+ (Docker, sześć kontenerów, min 4 GB RAM - najcięższy przepis w katalogu) |
Przykładowy saplo.yaml
Plik saplo.yaml w katalogu głównym repozytorium opisuje, jak Saplo ma zbudować i uruchomić aplikację. Wygeneruje go też komenda saplo init.
version: 1
name: my-langfuse
stack: langfuse
app_id: 1234
Pełny opis wszystkich pól znajdziesz na stronie Plik saplo.yaml.
Jak wdrożyć
Ten stack wdrożysz na trzy sposoby - wybierz wygodny dla siebie:
- Z panelu - tworzysz aplikację klikami, kod wgrywasz później przez CLI lub Git.
- Saplo CLI - z katalogu projektu:
saplo init, potemsaplo deploy. - Deploy z GitHub - podłączasz repo raz, każdy push wdraża się sam.
# Najszybsza droga - z katalogu projektu
$ npm install -g @saplo/cli
$ saplo login
$ saplo init
$ saplo deploy
Dobrze wiedzieć
- Stawiasz z panelu jednym kliknięciem - Saplo instaluje Docker CE i uruchamia sześć kontenerów: Postgres, ClickHouse, Redis, MinIO, aplikację i worker w tle.
- Organizacja, projekt "default", konto administratora i klucze API projektu zakładane automatycznie - login administratora i klucze widoczne w pliku LANGFUSE-SETUP.txt, gotowe do wklejenia w SDK (Python, JS, proxy kompatybilne z OpenAI).
- Załączniki multimedialne w trace-ach (obrazy, audio) NIE wgrywają się poprawnie z zewnętrznego SDK - magazyn plików (MinIO) jest dostępny tylko wewnątrz Boxa. Podstawowy tracing tekstowy (prompty, koszty, latencja, oceny, sesje, datasety) działa bez ograniczeń.
- Inna nisza niż Grafana, Prometheus i GlitchTip (też w katalogu Saplo) - te obserwują infrastrukturę i błędy aplikacji, nie wywołania modeli językowych.
- Kopia (automatyczna od Box L, ręcznie snapshotem na każdym planie) obejmuje Postgres i ClickHouse ze wszystkimi trace'ami.
Gotowy na deploy?
Wybierz plan Box i postaw aplikację Langfuse jeszcze dziś.