替代项 - ModelRiver

LLM Gateway

LLM Gateway是一个集中式平台，通过统一API接口管理与多个大型语言模型（LLM）提供商的交互，支持灵活使用和监控。

Laminar AI

Laminar AI是一个开源平台，提供工具用于观察、分析大型语言模型（LLM）应用程序，支持跟踪、评估和数据集创建。

Traceloop

Traceloop监控LLM应用程序的质量，提供跟踪、调试和优化工具，确保生产环境中的性能和可靠性。

Agenta

Agenta 是开源平台，帮助团队开发、监控和评估基于大模型的应用。支持多模型比对、提示工程、版本管理、A/B 测试、成本与性能监控及调试。

Lumigo

Lumigo是一个监控和调试平台，专为无服务器和容器应用设计，帮助开发者有效识别和解决性能问题.

Helicone

Helicone是一个开源框架，专为大型语言模型的可观察性和监视而设计，提供追踪、调试和优化工具。

Datadog

Datadog是一款监控和分析平台，提供应用性能监测、基础设施监控和日志管理，帮助用户实现对整个技术栈的实时可视化。

LogRocket

LogRocket是一款前端监控与产品分析工具，提供会话重播、性能监控和用户行为分析，帮助开发团队优化Web和移动应用体验。

Sentry

Sentry是一个监视应用程序错误和性能的平台，帮助开发人员实时识别和管理代码问题，提供详细的错误报告和性能见解。

CoreCtic AI

CoreCtic AI 是统一管理多家大语言模型 API 的代理与分析平台，提供请求路由、语义缓存、成本与用量监控、多客户管理及报告功能。

Dify

Dify 是开源的 LLM 应用开发平台，提供可视化工作流、RAG 管道、代理与模型管理、API 与部署及可观测性，用于构建与运行生成式 AI 应用。

New Relic

New Relic是一个云基础的监控平台，帮助用户实时监测软件、基础设施和服务的性能，提供应用性能管理和安全功能。

ApiTraffic

Apitraffic帮助组织监控和分析API流量，优化性能和安全，并在实时中识别问题，支持决策与工作流程触发。

OrcaRouter

OrcaRouter 是一个兼容 OpenAI 的 AI 路由网关，通过单一 API 在 200+ 模型间自动选择、路由和故障转移请求，并支持成本跟踪与预算控制。

Vigil

Vigil 通过单一代理监控 AI 应用和智能体的 API 调用，记录费用、Token 用量、延迟和错误，并检测异常、提示词注入及可能的个人信息泄露。

LangSmith

LangSmith 是一个开发平台，支持大型语言模型(LLM)应用的开发、监控与评估，集成了调试与反馈功能。

GTWY.AI

GTWY.AI 提供统一 API，整合多家 AI 模型与服务，简化接入、路由、监控与供应商切换，便于部署和管理跨供应商的 AI 应用。

AnyApiAI

AnyApiAI 是一个统一的 AI 模型 API 平台，可通过单一接口访问和管理 400+ 模型，支持在不同提供商间切换，并提供测试、路由、监控和使用分析功能。

Checkly

Checkly是一款监控工具，允许用户以代码形式管理API和应用监测，提供性能分析和故障报警，支持CI/CD集成。

AppSignal

AppSignal是一款应用性能监控工具，帮助开发人员监测错误、优化性能并提供实时洞察，支持多种开发框架。

Raygun

Raygun是综合监控工具，提供实时用户监测、崩溃报告和应用性能监测，帮助开发人员优化软件性能和用户体验。

Apigee

Apigee 是一个用于构建、管理和安全 API 的平台，支持各种环境和规模，提供分析和生命周期管理功能。

Coralogix

Coralogix是一个全栈可观察性平台，提供实时日志、指标和跟踪分析，支持数据存储和访问，帮助组织优化应用性能。

Experiential Labs

Experiential Labs 是开源 AI 网关和模型管理平台，通过统一 API 管理多家模型、密钥、权限、路由、使用限制、请求监控和成本跟踪。

Tracium.ai

Tracium.ai 是面向开发者的 AI 可观测平台，可在一个地方跟踪成本、追踪请求、排查故障、比较提示词和模型，并实时检测漂移，适用于模型、工具和代理。

Ramp Router

Ramp Router 是一个 AI 模型网关，通过单一 API 端点接入多个模型，并按成本、性能、质量和可用性路由请求，支持用量监控与提供商切换。

Maxim AI

Maxim AI是一个企业级AI评估和可观察性平台，帮助团队高效开发、测试和监控AI应用，确保质量和可靠性。

Dynatrace

Dynatrace 是一个提供监控和安全管理的平台，帮助企业增强IT环境的可见性和合规性，确保系统性能和安全。

Wordware

Wordware是一个协作式提示工程集成开发环境，简化AI代理和应用的创建与部署，支持用户轻松连接API并进行高效协作。

Fiddler

Fiddler 是一个用于监控、分析和管理 AI/机器学习模型、LLM 应用和代理系统的平台，可帮助团队跟踪性能、发现偏差并评估安全与信任指标。