Endor Labs

Endor Labs-это платформа, предназначенная для повышения безопасности и управления моделями ИИ с открытым исходным кодом в программных приложениях. Его основная функция заключается в обнаружении, оценке и обеспечении соблюдения политики на моделях ИИ, используемых в организации. Это особенно важно, поскольку традиционные инструменты анализа программного обеспечения (SCA) часто пытаются выявить риски из местных моделей искусственного интеллекта, интегрированных в приложения.

Платформа предлагает несколько ключевых возможностей:

• ** Discovery **: он сканирует и идентифицирует местные модели искусственного интеллекта, используемые в приложениях Python, создавая комплексный инвентарь и отслеживание, которые их используют команды и приложения. В настоящее время он может определить все модели искусственного интеллекта из обнимающего лица.
• ** Оценка : Модели ИИ анализируются на основе известных факторов риска с использованием показателей эндора, которые оценивают безопасность, качество, активность и популярность. Это помогает идентифицировать модели с сомнительными источниками, практикой или лицензиями. - Принудительное исполнение **: Организации могут устанавливать ограждения для использования моделей ИИ с открытым исходным кодом, предупреждая разработчиков о нарушениях политики и блокируя модели высокого риска в выходе из производства.

Интегрируя безопасность компонентов ИИ в существующие рабочие процессы разработчиков, Endor Labs обеспечивает видимость и контроль над моделями ИИ, аналогичными другими зависимостями с открытым исходным кодом. Этот подход учитывает растущую потребность в безопасном развертывании ИИ, особенно когда все больше организаций полагаются на модели искусственного искусства с открытым исходным кодом для своих приложений.