Enoki

Enoki é uma plataforma de segurança de IA projetada para ajudar equipes a testar, proteger e documentar a segurança de aplicações de IA e agentes autônomos de IA. Ele avalia o comportamento do agente no mundo real em relação a cenários adversários, incluindo injeção imediata, jailbreak, manipulação multivoltas, ataques indiretos, abuso de chamada de ferramenta e potencial exposição de dados.

A plataforma oferece suporte a três estágios de segurança de aplicativos de IA: testes de pré-implantação, proteção contínua de tempo de execução e relatórios prontos para auditoria. Enoki executa testes de segurança reproduzíveis para identificar vulnerabilidades antes de um agente ser liberado, aplica proteções de tempo de execução para detectar comportamentos suspeitos e padrões de ataque emergentes e fornece relatórios e evidências para análises de segurança, gerenciamento de riscos e iniciativas de conformidade. Destina-se a organizações que criam agentes de IA que interagem com usuários, ferramentas, bancos de dados, credenciais e serviços externos.

Aviso: A WebCatalog não é afiliada, associada, autorizada, endossada por ou de qualquer forma oficialmente vinculada a Enoki. Todos os nomes de produtos, logotipos e marcas são propriedade de seus respectivos proprietários.