Czy jesteś deweloperem tej aplikacji? Zweryfikuj własność, aby zarządzać tym listingiem.
Fabraix to platforma do testowania bezpieczeństwa i kontradyktoryjności sztucznej inteligencji, zaprojektowana w celu oceny niezawodności systemów sztucznej inteligencji skierowanych do klienta i agentów autonomicznych. Jego uprząż testowa Nyx przeprowadza czarnoskrzynkowe, wieloobrotowe oceny zespołu czerwonego, które dostosowują się do zachowania agenta, pomagając zidentyfikować luki w zabezpieczeniach, które mogą zostać pominięte w statycznych testach porównawczych i testach z pojedynczym monitem.
Platforma obsługuje testowanie tekstu, głosu, przeglądarki, poczty e-mail, dokumentów i innych multimodalnych powierzchni interakcji. Może oceniać chatboty, agentów kodujących, agentów badawczych, agentów przeglądarek, narzędzia finansowe, drugich pilotów klinicznych i systemy wieloagentowe pod kątem zagrożeń, takich jak natychmiastowe wstrzykiwanie, jailbreaki, eksfiltracja danych, niebezpieczne użycie narzędzi, błędy logiczne, naruszenia zasad i błędy dostosowania. Fabraix udostępnia raporty z wynikami zawierające powtarzalne scenariusze testowe i wskazówki dotyczące działań zaradczych, natomiast opcje ciągłego testowania mogą wspierać przepływy pracy CI/CD i śledzenie regresji w miarę zmiany modeli, podpowiedzi i integracji. Stosowane przez nią podejście czarnej skrzynki ma na celu testowanie systemów sztucznej inteligencji za pośrednictwem tych samych interfejsów, które są dostępne dla użytkowników, bez konieczności dostępu do kodu źródłowego, wag modeli czy sieci wewnętrznych.
Zastrzeżenie: WebCatalog nie jest powiązany, stowarzyszony, upoważniony ani wspierany przez Fabraix ani w żaden sposób oficjalnie z nim związany. Wszystkie nazwy produktów, logo i marki są własnością ich odpowiednich właścicieli.
