AcruxCore

Для инженерных команд, создающих и поддерживающих функции на базе LLM, AcruxCore связывает изменения промптов с поведением приложения в production. Это помогает разбираться в неудовлетворительных ответах и обновлять промпты без повторного развертывания приложения. Команды могут управлять шаблонами промптов и их версиями, а когда новая версия готова — переключать на неё production-алиас. Трассировки показывают сведения о модели, токенах, задержке и стоимости вызовов; сессии и обратная связь по спанам помогают находить проблемы. AcruxCore также предоставляет совместимый с OpenAI шлюз для маршрутизации вызовов к подключённым поставщикам моделей с поддержкой резервных вариантов, бюджетов, ограничений частоты запросов и кэширования. Команды могут управлять версиями инструментов, оценивать промпты и модели на наборах данных и вести журнал изменений. Доступны SDK для TypeScript и Python, а также REST API. Платформу можно использовать в облаке или развернуть самостоятельно; проект распространяется с открытым исходным кодом по лицензии Apache 2.0.

Отказ от ответственности: WebCatalog не связан, не ассоциирован, не уполномочен, не одобрен и не имеет какой-либо официальной связи с AcruxCore. Все названия продуктов, логотипы и бренды являются собственностью соответствующих владельцев.