Spanlens monitoruje użycie modeli OpenAI, Anthropic i Gemini, rejestruje żądania, koszty i ślady agentów AI. Można wdrożyć je we własnej infrastrukturze.

Czy jesteś deweloperem tej aplikacji? Zweryfikuj własność, aby zarządzać tym listingiem.

Zyskaj dedykowaną aplikację na komputer dla Spanlens na Mac, Windows i Linux dzięki WebCatalog Desktop.

  • Uruchamiaj Spanlens prosto z Docka lub paska zadań.
  • Pracuj bez rozpraszaczy w osobnym oknie, oddzielonym od kart przeglądarki.
  • Pozostań zalogowany na wielu kontach Spanlens i przełączaj się między nimi bez wylogowywania.

Dowiedz się więcej o WebCatalog Desktop

Spanlens to platforma open source do obserwowalności i monitorowania dużych modeli językowych (LLM), służąca do śledzenia wykorzystania modeli AI w środowisku produkcyjnym. Kierując żądania do modeli przez proxy Spanlens lub korzystając z jego SDK, które można łatwo zastąpić dotychczasowym, zespoły mogą monitorować zużycie tokenów, koszty, opóźnienia, błędy i odpowiedzi strumieniowe u obsługiwanych dostawców, zachowując przy tym dotychczasowe wywołania SDK. Platforma udostępnia szczegółowe ślady przebiegu działania agentów AI, obejmujące zagnieżdżone wywołania modeli, narzędzia i etapy wyszukiwania, a także alerty o nagłych wzrostach kosztów, błędach i zmianach opóźnień. Zespoły mogą zarządzać wersjami promptów, porównywać wydajność modeli i promptów za pomocą ewaluacji oraz eksperymentów, a także uruchamiać kontrole ewaluacyjne w procesie CI. Spanlens obsługuje również buforowanie z dokładnym dopasowaniem, OpenTelemetry, eksport danych i wdrażanie we własnej infrastrukturze.

Zastrzeżenie: WebCatalog nie jest powiązany, stowarzyszony, upoważniony ani wspierany przez Spanlens ani w żaden sposób oficjalnie z nim związany. Wszystkie nazwy produktów, logo i marki są własnością ich odpowiednich właścicieli.