Endor Labs

Endor Labs是一個平台，旨在增強軟件應用程序中開源AI模型的安全性和治理。它的主要功能是在組織中使用的AI模型上發現，評估和執行策略。這尤其重要，因為傳統的軟件組成分析（SCA）工具通常難以從集成到應用程序中的本地AI模型中確定風險。

該平台提供了幾個關鍵功能：

• ** Discovery **：它掃描並確定Python應用程序中使用的本地AI模型，創建全面的庫存和跟踪，哪些團隊和應用程序使用它們。目前，它可以從擁抱臉部識別所有AI模型。
• 評估：根據已知風險因素使用Endor分數，對AI模型進行了分析，這些風險因素評估了安全，質量，活動和受歡迎程度。這有助於識別具有可疑資源，實踐或許可證的模型。
• 執法：組織可以為使用開源AI模型設置護欄，警告開發人員有關違反政策的行為，並阻止高風險模型進入生產。

通過將AI組件安全性集成到現有的開發人員工作流中，Endor Labs對類似於其他開源依賴性類似的AI模型提供了可見性和控制。這種方法解決了對安全AI部署的日益增長的需求，尤其是當越來越多的組織依靠開源AI模型來應用其應用程序時。