AcruxCore

För teknikteam som bygger och underhåller funktioner som drivs av LLM:er hjälper AcruxCore dem att koppla promptändringar till beteendet i produktion, så att de kan undersöka bristfälliga svar och uppdatera promptar utan att behöva distribuera om applikationen. Team kan hantera promptmallar och versioner och sedan byta produktionsalias till en ny version när den är redo. Spår visar information om modell, token, latens och kostnad för anrop, och sessioner och återkoppling på spann hjälper till att hitta problem. AcruxCore erbjuder även en OpenAI-kompatibel gateway för att dirigera anrop till anslutna modellleverantörer, med stöd för reservlösningar, budgetar, hastighetsbegränsningar och cachelagring. Team kan hantera versionshanterade verktyg, utvärdera promptar och modeller mot datamängder och upprätthålla ett ändringsregister. TypeScript- och Python-SDK:er samt ett REST-API finns tillgängliga. Använd den hostade plattformen eller hosta den själv; projektet är öppen källkod under Apache 2.0-licensen.

Ansvarsfriskrivning: WebCatalog är inte anslutet till, associerat med, auktoriserat av, rekommenderat av eller på något sätt officiellt kopplat till AcruxCore. Alla produktnamn, logotyper och varumärken tillhör sina respektive ägare.