AcruxCore

Pour les équipes d’ingénierie qui développent et maintiennent des fonctionnalités reposant sur des LLM, AcruxCore relie les modifications apportées aux prompts au comportement en production. Elles peuvent ainsi analyser les réponses insatisfaisantes et mettre à jour les prompts sans redéployer leur application. Les équipes peuvent gérer des modèles de prompts et leurs versions, puis faire pointer l’alias de production vers une nouvelle version lorsqu’elle est prête. Les traces affichent les détails des appels concernant le modèle, les jetons, la latence et les coûts. Les sessions et les commentaires sur les spans aident à repérer les problèmes. AcruxCore fournit également une passerelle compatible avec OpenAI pour acheminer les appels vers les fournisseurs de modèles connectés, avec des options de repli, des budgets, des limites de débit et de la mise en cache. Les équipes peuvent gérer des outils versionnés, évaluer des prompts et des modèles à l’aide de jeux de données, et conserver une piste d’audit des modifications. Des SDK TypeScript et Python ainsi qu’une API REST sont disponibles. Utilisez la plateforme hébergée ou auto-hébergez-la ; le projet est open source sous licence Apache 2.0.

Avertissement : WebCatalog n’est ni affilié, ni associé, ni autorisé, ni approuvé par AcruxCore, et n’entretient aucun lien officiel avec cette entité. Tous les noms de produits, logos et marques sont la propriété de leurs détenteurs respectifs.