Spanlens giám sát yêu cầu LLM, token, chi phí, độ trễ, lỗi và dấu vết tác nhân; hỗ trợ OpenAI, Anthropic, Gemini và tự lưu trữ.

Bạn có phải là nhà phát triển của ứng dụng này không? Xác minh quyền sở hữu để quản lý trang niêm yết này.

Có ngay ứng dụng máy tính riêng cho Spanlens trên Mac, Windows và Linux với WebCatalog Desktop.

  • Mở Spanlens trực tiếp từ Dock hoặc thanh tác vụ.
  • Làm việc không bị phân tâm trong cửa sổ riêng, tách biệt khỏi các tab trình duyệt.
  • Luôn đăng nhập nhiều tài khoản Spanlens và chuyển đổi giữa chúng mà không cần đăng xuất.

Tìm hiểu thêm về WebCatalog Desktop

Spanlens là một nền tảng mã nguồn mở về khả năng quan sát và giám sát LLM, giúp theo dõi việc sử dụng mô hình AI trong môi trường production. Bằng cách định tuyến các yêu cầu đến mô hình thông qua proxy hoặc SDK tích hợp thay thế, các nhóm có thể giám sát mức sử dụng token, chi phí, độ trễ, lỗi và phản hồi dạng luồng trên các nhà cung cấp được hỗ trợ, đồng thời vẫn giữ nguyên các lệnh gọi SDK hiện có. Nền tảng cung cấp các dấu vết chi tiết về quá trình chạy của tác nhân AI, bao gồm các lệnh gọi mô hình lồng nhau, công cụ và các bước truy xuất dữ liệu, đồng thời đưa ra cảnh báo khi chi phí tăng đột biến, có lỗi hoặc độ trễ thay đổi. Các nhóm có thể quản lý phiên bản prompt, so sánh hiệu suất của mô hình và prompt thông qua các hoạt động đánh giá và thử nghiệm, cũng như chạy kiểm tra đánh giá trong CI. Spanlens cũng hỗ trợ bộ nhớ đệm khớp chính xác, OpenTelemetry, xuất dữ liệu và tự lưu trữ.

Tuyên bố miễn trừ trách nhiệm: WebCatalog không liên kết, hợp tác, được ủy quyền, chứng thực bởi hoặc có bất kỳ mối liên hệ chính thức nào với Spanlens. Tất cả tên sản phẩm, logo và thương hiệu là tài sản của các chủ sở hữu tương ứng.