Spanlens monitoruje požiadavky na LLM, náklady, latenciu a chyby, zaznamenáva behy AI agentov a umožňuje spravovať prompty a evaluácie. Dá sa prevádzkovať vo vlastnej réžii.

Ste vývojárom tejto aplikácie? Overte vlastníctvo a spravujte tento záznam.

Získajte samostatnú desktopovú aplikáciu pre Spanlens v systémoch Mac, Windows a Linux s WebCatalog Desktop.

  • Spúšťajte Spanlens priamo z Docku alebo panela úloh.
  • Pracujte bez rozptyľovania vo vlastnom okne, oddelene od kariet prehliadača.
  • Zostaňte prihlásení do viacerých účtov Spanlens a prepínajte medzi nimi bez odhlasovania.

Viac o WebCatalog Desktop

Spanlens je open-source platforma na observabilitu a monitorovanie LLM, ktorá slúži na sledovanie používania modelov AI v produkčnom prostredí. Smerovaním požiadaviek na modely cez svoj proxy server alebo SDK, ktoré možno jednoducho pridať, umožňuje tímom monitorovať využitie tokenov, náklady, latenciu, chyby a streamované odpovede naprieč podporovanými poskytovateľmi, pričom môžu naďalej používať svoje existujúce volania SDK. Platforma poskytuje podrobné záznamy behov AI agentov vrátane vnorených volaní modelov, nástrojov a krokov vyhľadávania, ako aj upozornenia na prudký nárast nákladov, chyby a zmeny latencie. Tímy môžu spravovať verzie promptov, porovnávať výkonnosť modelov a promptov pomocou evaluácií a experimentov a spúšťať evaluačné kontroly v CI. Spanlens podporuje aj ukladanie do vyrovnávacej pamäte s presnou zhodou, OpenTelemetry, export údajov a vlastnú hostovanú prevádzku.

Upozornenie: WebCatalog nie je pridružený k spoločnosti Spanlens, nie je s ňou spojený, autorizovaný ani schválený spoločnosťou Spanlens a nemá s ňou žiadne oficiálne prepojenie. Všetky názvy produktov, logá a značky sú majetkom ich príslušných vlastníkov.