AcruxCore

За инженерни екипи, които разработват и поддържат функционалности, задвижвани от LLM, AcruxCore помага да свържат промените в промптовете с поведението в продукционна среда, за да могат да проучват незадоволителни отговори и да актуализират промптовете, без да внедряват приложението отново. Екипите могат да управляват шаблони и версии на промптове, а когато дадена версия е готова, да превключат продукционния псевдоним към нея. Трейсовете показват подробности за модела, токените, латентността и разходите при извикванията, а сесиите и обратната връзка за спановете помагат за откриването на проблеми. AcruxCore предоставя и шлюз, съвместим с OpenAI, за маршрутизиране на извиквания към свързани доставчици на модели, с опции за резервни варианти, бюджети, ограничения на честотата и кеширане. Екипите могат да управляват версионирани инструменти, да оценяват промптове и модели спрямо набори от данни и да поддържат одитна следа на промените. Налични са SDK за TypeScript и Python, както и REST API. Използвайте хостваната платформа или хоствайте решението самостоятелно; проектът е с отворен код под лиценза Apache 2.0.

Отказ от отговорност: WebCatalog не е свързан, асоцииран, упълномощен, одобрен от или по какъвто и да е начин официално свързан с AcruxCore. Всички имена на продукти, лога и марки са собственост на съответните им притежатели.