Dodaj u ChromeJeste li programer ove aplikacije? Potvrdite vlasništvo kako biste upravljali ovim unosom.
Nabavite zasebnu desktop aplikaciju za Spanlens na Macu, Windowsima i Linuxu uz WebCatalog Desktop.
- Pokrenite Spanlens izravno iz Docka ili programske trake.
- Radite bez ometanja u zasebnom prozoru, odvojeno od kartica preglednika.
- Ostanite prijavljeni u više Spanlens računa i prebacujte se između njih bez odjave.
Spanlens je platforma otvorenog koda za praćenje i nadzor LLM-ova, namijenjena praćenju upotrebe AI modela u produkciji. Usmjeravanjem zahtjeva modelima kroz svoj proxy ili SDK koji se može izravno zamijeniti, timovi mogu pratiti potrošnju tokena, troškove, latenciju, pogreške i odgovore koji se prenose u stvarnom vremenu kod podržanih pružatelja usluga, a pritom zadržati postojeće pozive SDK-a. Platforma pruža detaljne zapise izvođenja AI agenata, uključujući ugniježđene pozive modela, alate i korake dohvaćanja, kao i upozorenja o naglim porastima troškova, pogreškama i promjenama latencije. Timovi mogu upravljati verzijama upita, uspoređivati učinkovitost modela i upita pomoću evaluacija i eksperimenata te pokretati evaluacijske provjere u CI-ju. Spanlens podržava i predmemoriranje točnih podudaranja, OpenTelemetry, izvoz podataka i samostalno hostanje.
Odricanje od odgovornosti: WebCatalog nije povezan, udružen, ovlašten, podržan od strane niti na bilo koji način službeno povezan s Spanlens. Svi nazivi proizvoda, logotipi i robne marke vlasništvo su svojih odgovarajućih vlasnika.
