AcruxCore

Voor engineeringteams die functies bouwen en onderhouden die op LLM’s zijn gebaseerd, helpt AcruxCore wijzigingen in prompts te koppelen aan gedrag in productie. Zo kunnen teams slechte antwoorden onderzoeken en prompts aanpassen zonder hun applicatie opnieuw te implementeren. Teams kunnen prompttemplates en versies beheren en vervolgens de productiealias omschakelen naar een nieuwe versie zodra die klaar is. Traces tonen details over het model, tokens, latentie en kosten van aanroepen. Sessies en feedback op spans helpen problemen op te sporen. AcruxCore biedt ook een OpenAI-compatibele gateway om aanroepen naar gekoppelde modelproviders te routeren, met opties voor terugvalopties, budgetten, snelheidslimieten en caching. Teams kunnen versies van tools beheren, prompts en modellen evalueren aan de hand van datasets en een audittrail van wijzigingen bijhouden. Er zijn SDK’s voor TypeScript en Python beschikbaar, evenals een REST API. Gebruik het gehoste platform of host het zelf; het project is open source onder de Apache 2.0-licentie.

Disclaimer: WebCatalog is niet gelieerd aan, verbonden met, geautoriseerd door, onderschreven door of op enige wijze officieel verbonden met AcruxCore. Alle productnamen, logo's en merken zijn eigendom van hun respectieve eigenaren.