AcruxCore 是供工程團隊使用的 LLM 營運平台,可管理提示詞版本、追蹤模型呼叫、評估提示詞與模型,並透過閘道連接模型供應商。

發布者 AcruxCore

透過 WebCatalog Desktop,在 Mac、Windows 和 Linux 上取得 AcruxCore 專屬桌面應用程式。

  • 直接從 Dock 或工作列啟動 AcruxCore。
  • 在獨立視窗中專心工作,不受干擾,與瀏覽器分頁分開。
  • 管理多個 AcruxCore 帳戶,無需登出即可在它們之間切換。

進一步了解 WebCatalog Desktop

對於打造及維護 LLM 驅動功能的工程團隊,AcruxCore 可協助將提示詞變更與正式環境中的行為連結起來,讓團隊能調查不理想的回應,並在不重新部署應用程式的情況下更新提示詞。團隊可以管理提示詞範本及其版本,並在新版本準備就緒時,將正式環境別名切換至該版本。追蹤記錄會顯示每次呼叫的模型、Token、延遲時間及成本等詳細資訊,並提供工作階段與跨度回饋,協助找出問題。 AcruxCore 也提供相容於 OpenAI 的閘道,可將呼叫路由至已連接的模型供應商,並支援備援、預算、速率限制及快取等選項。團隊可以管理具版本控制的工具,使用資料集評估提示詞與模型,並保留變更稽核軌跡。此外,也提供 TypeScript 和 Python SDK,以及 REST API。您可以使用託管平台或自行託管;此專案依 Apache 2.0 授權條款開放原始碼。

免責聲明:WebCatalog 與 AcruxCore 並無任何隸屬、關聯、授權或認可關係,亦不以任何方式與其存在官方連結。所有產品名稱、標誌及品牌均為其各自所有者的財產。