Enoki
Êtes-vous le développeur de cette app ? Vérifiez que vous en êtes propriétaire pour gérer cette fiche.
Enoki est une plateforme de sécurité d'IA conçue pour aider les équipes à tester, protéger et documenter la sécurité des applications d'IA et des agents d'IA autonomes. Il évalue le comportement réel d’un agent par rapport à des scénarios contradictoires, notamment l’injection rapide, les jailbreaks, la manipulation multi-tours, les attaques indirectes, l’abus d’appels d’outils et l’exposition potentielle des données.
La plateforme prend en charge trois étapes de sécurité des applications d'IA : les tests préalables au déploiement, la protection continue de l'exécution et les rapports prêts pour l'audit. Enoki exécute des tests de sécurité reproductibles pour identifier les vulnérabilités avant la publication d'un agent, applique des garde-fous d'exécution pour détecter les comportements suspects et les modèles d'attaque émergents, et fournit des rapports et des preuves pour les examens de sécurité, la gestion des risques et les initiatives de conformité. Il est destiné aux organisations qui créent des agents d'IA qui interagissent avec les utilisateurs, les outils, les bases de données, les informations d'identification et les services externes.
Avertissement : WebCatalog n’est ni affilié, ni associé, ni autorisé, ni approuvé par Enoki, et n’entretient aucun lien officiel avec cette entité. Tous les noms de produits, logos et marques sont la propriété de leurs détenteurs respectifs.
