Endor Labs

Endor Labs là một nền tảng được thiết kế để tăng cường bảo mật và quản trị các mô hình AI nguồn mở trong các ứng dụng phần mềm. Chức năng chính của nó là khám phá, đánh giá và thực thi các chính sách trên các mô hình AI được sử dụng trên toàn tổ chức. Điều này đặc biệt quan trọng vì các công cụ phân tích thành phần phần mềm truyền thống (SCA) thường đấu tranh để xác định rủi ro từ các mô hình AI cục bộ được tích hợp vào các ứng dụng.

Nền tảng cung cấp một số khả năng chính:

• ** Discovery **: Nó quét và xác định các mô hình AI cục bộ được sử dụng trong các ứng dụng Python, tạo ra hàng tồn kho toàn diện và theo dõi các nhóm và ứng dụng sử dụng chúng. Hiện tại, nó có thể xác định tất cả các mô hình AI từ khuôn mặt ôm.
• ** Đánh giá : Các mô hình AI được phân tích dựa trên các yếu tố rủi ro đã biết bằng cách sử dụng điểm số Endor, đánh giá bảo mật, chất lượng, hoạt động và mức độ phổ biến. Điều này giúp xác định các mô hình với các nguồn, thực tiễn hoặc giấy phép nghi vấn. - Thực thi **: Các tổ chức có thể thiết lập các lan can cho việc sử dụng các mô hình AI nguồn mở, cảnh báo các nhà phát triển về vi phạm chính sách và ngăn chặn các mô hình rủi ro cao xâm nhập vào sản xuất.

Bằng cách tích hợp bảo mật thành phần AI vào quy trình công việc của nhà phát triển hiện tại, Endor Labs cung cấp khả năng hiển thị và kiểm soát các mô hình AI tương tự như các phụ thuộc nguồn mở khác. Cách tiếp cận này giải quyết nhu cầu ngày càng tăng đối với việc triển khai AI an toàn, đặc biệt là khi nhiều tổ chức dựa vào các mô hình AI nguồn mở cho các ứng dụng của họ.