Enoki

Enoki — це платформа безпеки штучного інтелекту, розроблена, щоб допомогти командам тестувати, захищати та документувати безпеку програм ШІ та автономних агентів ШІ. Він оцінює поведінку агента в реальному світі проти агресивних сценаріїв, включаючи миттєве впровадження, втечу з в’язниці, багатоповоротні маніпуляції, непрямі атаки, зловживання викликом інструментів і потенційне розкриття даних.

Платформа підтримує три етапи безпеки додатків штучного інтелекту: тестування перед розгортанням, постійний захист під час виконання та звітування, готове до аудиту. Enoki проводить відтворювані тести безпеки, щоб виявити вразливості до того, як агент буде звільнено, застосовує захисні огородження для виявлення підозрілої поведінки та нових шаблонів атак, а також надає звіти та докази для перевірки безпеки, управління ризиками та ініціатив щодо відповідності. Він призначений для організацій, які створюють агенти ШІ, які взаємодіють з користувачами, інструментами, базами даних, обліковими даними та зовнішніми службами.

Відмова від відповідальності: WebCatalog не є афілійованим, пов’язаним, уповноваженим або схваленим Enoki і не має з ним жодного офіційного зв’язку. Усі назви продуктів, логотипи та бренди є власністю відповідних власників.