Fabraix

Fabraix 是一個人工智慧安全和對抗性測試平台，旨在評估面向客戶的人工智慧系統和自主代理的可靠性。其 Nyx 测试工具执行黑盒、多轮红队评估，适应代理的行为，帮助识别静态基准测试和单提示测试可能遗漏的漏洞。

該平台支援跨文字、語音、瀏覽器、電子郵件、文件和其他多模式互動介面的測試。它可以评估聊天机器人、编码代理、研究代理、浏览器代理、金融工具、临床副驾驶员和多代理系统的风险，例如提示注入、越狱、数据泄露、不安全的工具使用、逻辑错误、策略违规和对齐失败。 Fabraix 提供带有可重复测试场景和修复指南的结果报告，而持续测试选项可以随着模型、提示和集成的变化支持 CI/CD 工作流程和回归跟踪。其黑盒方法旨在透過使用者可用的相同介面來測試人工智慧系統，而無需存取原始程式碼、模型權重或內部網路。

免責聲明：WebCatalog 與 Fabraix 並無任何隸屬、關聯、授權或認可關係，亦不以任何方式與其存在官方連結。所有產品名稱、標誌及品牌均為其各自所有者的財產。