AcruxCore

Для інженерних команд, які створюють і підтримують функції на базі LLM, AcruxCore допомагає пов’язувати зміни промптів із поведінкою в production, щоб команди могли досліджувати причини невдалих відповідей і оновлювати промпти без повторного розгортання застосунку. Команди можуть керувати шаблонами промптів і їхніми версіями, а коли нова версія готова — перемикати на неї production-псевдонім. Траси відображають дані про модель, токени, затримку й вартість викликів; сесії та відгуки щодо спанів допомагають знаходити проблеми. AcruxCore також надає сумісний з OpenAI шлюз для маршрутизації викликів до підключених провайдерів моделей із можливістю налаштувати резервні варіанти, бюджети, обмеження частоти запитів і кешування. Команди можуть керувати інструментами з контролем версій, оцінювати промпти й моделі на наборах даних і вести журнал змін. Доступні SDK для TypeScript і Python, а також REST API. Використовуйте платформу в хмарі або розгорніть її на власній інфраструктурі; проєкт має відкритий вихідний код і поширюється за ліцензією Apache 2.0.

Відмова від відповідальності: WebCatalog не є афілійованим, пов’язаним, уповноваженим або схваленим AcruxCore і не має з ним жодного офіційного зв’язку. Усі назви продуктів, логотипи та бренди є власністю відповідних власників.