Êtes-vous le développeur de cette app ? Vérifiez que vous en êtes propriétaire pour gérer cette fiche.
Fabraix est une plateforme de sécurité et de tests contradictoires d'IA conçue pour évaluer la fiabilité des systèmes d'IA et des agents autonomes orientés client. Son harnais de test Nyx effectue des évaluations en équipe rouge à plusieurs tours en boîte noire qui s'adaptent au comportement d'un agent, aidant ainsi à identifier les vulnérabilités que les benchmarks statiques et les tests à invite unique peuvent manquer.
La plate-forme prend en charge les tests sur le texte, la voix, le navigateur, la messagerie électronique, les documents et autres surfaces d'interaction multimodales. Il peut évaluer les chatbots, les agents de codage, les agents de recherche, les agents de navigation, les outils financiers, les copilotes cliniques et les systèmes multi-agents pour détecter des risques tels que l'injection rapide, les jailbreaks, l'exfiltration de données, l'utilisation dangereuse d'outils, les erreurs logiques, les violations de politiques et les échecs d'alignement. Fabraix fournit des rapports de résultats avec des scénarios de test reproductibles et des conseils de correction, tandis que les options de tests continus peuvent prendre en charge les flux de travail CI/CD et le suivi de la régression à mesure que les modèles, les invites et les intégrations changent. Son approche boîte noire est conçue pour tester les systèmes d'IA via les mêmes interfaces disponibles pour les utilisateurs, sans nécessiter d'accès au code source, aux poids des modèles ou aux réseaux internes.
Avertissement : WebCatalog n’est ni affilié, ni associé, ni autorisé, ni approuvé par Fabraix, et n’entretient aucun lien officiel avec cette entité. Tous les noms de produits, logos et marques sont la propriété de leurs détenteurs respectifs.
