Spanlens следи заявки към OpenAI, Anthropic и Gemini, като регистрира разходи, латентност, грешки и трасировки на AI агенти. Поддържа самостоятелно хостване.

Вие ли сте разработчикът на това приложение? Потвърдете собствеността, за да управлявате тази страница.

Вземете специално настолно приложение за Spanlens на Mac, Windows и Linux с WebCatalog Desktop.

  • Отваряйте Spanlens направо от Dock или лентата на задачите.
  • Работете без разсейване в отделен прозорец, далеч от разделите в браузъра.
  • Останете влезли в няколко акаунта в Spanlens и превключвайте между тях, без да излизате.

Научете повече за WebCatalog Desktop

Spanlens е платформа с отворен код за наблюдение и мониторинг на LLM, предназначена за проследяване на използването на AI модели в продукционна среда. Като насочват заявките към моделите през нейния прокси сървър или SDK, който може директно да замени съществуващия, екипите могат да следят използването на токени, разходите, латентността, грешките и поточните отговори при поддържаните доставчици, като запазят съществуващите си извиквания към SDK. Платформата предоставя подробни трасировки на изпълненията на AI агенти, включително вложени извиквания към модели, инструменти и стъпки за извличане на информация, както и известия за резки увеличения на разходите, грешки и промени в латентността. Екипите могат да управляват версиите на подканите, да сравняват производителността на моделите и подканите чрез оценки и експерименти и да изпълняват проверки за оценяване в CI. Spanlens поддържа също кеширане при точно съвпадение, OpenTelemetry, експортиране на данни и самостоятелно хостване.

Отказ от отговорност: WebCatalog не е свързан, асоцииран, упълномощен, одобрен от или по какъвто и да е начин официално свързан с Spanlens. Всички имена на продукти, лога и марки са собственост на съответните им притежатели.