AcruxCore

Pro technické týmy, které vyvíjejí a udržují funkce založené na LLM, pomáhá AcruxCore propojit změny promptů s chováním v produkčním prostředí. Týmy tak mohou zkoumat nekvalitní odpovědi a upravovat prompty, aniž by musely aplikaci znovu nasazovat. Mohou spravovat šablony promptů a jejich verze a po přípravě nové verze přepnout produkční alias. Trasování zobrazuje podrobnosti o modelu, tokenech, latenci a nákladech jednotlivých volání. Relace a zpětná vazba ke spanům pomáhají odhalovat problémy. AcruxCore nabízí také bránu kompatibilní s OpenAI, která směruje volání k připojeným poskytovatelům modelů a umožňuje nastavit záložní možnosti, rozpočty, limity rychlosti a cachování. Týmy mohou spravovat verzované nástroje, vyhodnocovat prompty a modely na základě datových sad a uchovávat auditní záznamy změn. K dispozici jsou SDK pro TypeScript a Python i REST API. Platformu můžete využívat jako hostovanou službu nebo ji provozovat sami. Projekt je open source pod licencí Apache 2.0.

Vyloučení odpovědnosti: WebCatalog není přidružen k AcruxCore, není s ním spojen, není jím autorizován ani podporován a nemá s ním žádné oficiální spojení. Všechny názvy produktů, loga a značky jsou majetkem příslušných vlastníků.