AcruxCore

Dla zespołów inżynierskich tworzących i utrzymujących funkcje oparte na LLM AcruxCore pomaga powiązać zmiany w promptach z zachowaniem aplikacji na produkcji, dzięki czemu mogą one analizować nieprawidłowe odpowiedzi i aktualizować prompty bez ponownego wdrażania aplikacji. Zespoły mogą zarządzać szablonami promptów i ich wersjami, a gdy nowa wersja jest gotowa, przełączyć na nią alias produkcyjny. Ślady wywołań pokazują szczegółowe informacje o modelu, tokenach, opóźnieniach i kosztach; sesje oraz informacje zwrotne dotyczące spanów pomagają zlokalizować problemy. AcruxCore udostępnia również zgodną z OpenAI bramę do kierowania wywołań do podłączonych dostawców modeli, z opcjami konfiguracji mechanizmów awaryjnych, budżetów, limitów szybkości i buforowania. Zespoły mogą zarządzać wersjonowanymi narzędziami, oceniać prompty i modele na podstawie zbiorów danych oraz prowadzić rejestr zmian. Dostępne są SDK dla TypeScriptu i Pythona oraz interfejs REST API. Można korzystać z hostowanej platformy lub hostować ją samodzielnie; projekt jest dostępny jako open source na licencji Apache 2.0.

Zastrzeżenie: WebCatalog nie jest powiązany, stowarzyszony, upoważniony ani wspierany przez AcruxCore ani w żaden sposób oficjalnie z nim związany. Wszystkie nazwy produktów, logo i marki są własnością ich odpowiednich właścicieli.