AcruxCore 为工程团队提供 LLM 运维工具,可管理提示词版本、路由模型调用、追踪调用表现,并评估提示词和模型。

发布者 AcruxCore

借助 WebCatalog Desktop,在 Mac、Windows 和 Linux 上获取 AcruxCore 专属桌面应用。

  • 直接从程序坞或任务栏启动 AcruxCore。
  • 在独立窗口中专注工作,不受干扰,与浏览器标签页分开。
  • 管理多个 AcruxCore 帐户,无需退出即可在它们之间切换。

进一步了解 WebCatalog Desktop

对于构建和维护由大型语言模型(LLM)驱动功能的工程团队,AcruxCore 可帮助将提示词变更与生产环境中的行为关联起来,便于团队排查不理想的响应,并在无需重新部署应用的情况下更新提示词。团队可以管理提示词模板和版本,并在新版本就绪后将生产别名切换到该版本。调用追踪会显示模型、令牌用量、延迟和成本等详细信息,并提供会话记录和跨度反馈,帮助定位问题。 AcruxCore 还提供兼容 OpenAI 的网关,可将调用路由到已连接的模型提供商,并支持故障转移、预算、速率限制和缓存等选项。团队可以管理带版本的工具,使用数据集评估提示词和模型,并保留变更审计记录。此外,还提供 TypeScript 和 Python SDK 以及 REST API。你可以使用托管平台,也可以自行托管;该项目基于 Apache 2.0 许可证开源。

免责声明:WebCatalog 与 AcruxCore 不存在任何隶属、关联、授权或认可关系,也未以任何方式与其建立官方联系。所有产品名称、徽标和品牌均为其各自所有者的财产。