Ste vývojárom tejto aplikácie? Overte vlastníctvo a spravujte tento záznam.
Fabraix je platforma na testovanie bezpečnosti AI a protistrany navrhnutá na vyhodnotenie spoľahlivosti systémov AI a autonómnych agentov orientovaných na zákazníka. Jeho testovací postroj Nyx vykonáva hodnotenia v čiernej skrinke, viacnásobné červené tímové hodnotenia, ktoré sa prispôsobujú správaniu agenta, a pomáha tak identifikovať zraniteľné miesta, ktoré môžu statické benchmarky a testy s jedným príkazom prehliadnuť.
Platforma podporuje testovanie naprieč textom, hlasom, prehliadačom, e-mailom, dokumentom a ďalšími multimodálnymi interakčnými plochami. Dokáže posúdiť chatbotov, kódovacích agentov, výskumných agentov, prehliadačových agentov, finančné nástroje, klinických kopilotov a multiagentové systémy z hľadiska rizík, ako je rýchle vstreknutie, útek z väzenia, únik údajov, nebezpečné používanie nástrojov, logické chyby, porušenia pravidiel a zlyhania zosúladenia. Fabraix poskytuje správy o zisteniach s reprodukovateľnými testovacími scenármi a návodom na nápravu, zatiaľ čo možnosti nepretržitého testovania môžu podporovať pracovné postupy CI/CD a regresné sledovanie, keď sa modely, výzvy a integrácie menia. Jeho prístup čiernej skrinky je navrhnutý tak, aby testoval systémy AI prostredníctvom rovnakých rozhraní, aké majú používatelia k dispozícii, bez toho, aby vyžadovali prístup k zdrojovému kódu, váhe modelov alebo interným sieťam.
Upozornenie: WebCatalog nie je pridružený k spoločnosti Fabraix, nie je s ňou spojený, autorizovaný ani schválený spoločnosťou Fabraix a nemá s ňou žiadne oficiálne prepojenie. Všetky názvy produktov, logá a značky sú majetkom ich príslušných vlastníkov.
