Helix AI

Helix è uno stack di intelligenza artificiale generativa che può essere distribuito sulla tua infrastruttura. Esegui localmente, distribuisci sul tuo account cloud privato, on-premise o testalo rapidamente sul nostro SaaS, Helix Cloud. Helix viene fornito con uno scheduler GPU distribuito in grado di eseguire il bin-packing dei modelli AI nella memoria GPU per ottimizzare la latenza e l'utilizzo. Oltre a ciò, Helix espone API standard di settore facili da usare per interagire con modelli di intelligenza artificiale open source pronti per l'azienda. Helix aggiunge anche semplici astrazioni per aiutare gli utenti di Helix a creare rapidamente applicazioni di intelligenza artificiale generativa. L'architettura Runner di Helix ti consente di implementare un singolo piano di controllo e quindi collegarvi le GPU della tua azienda, di un fornitore di servizi cloud o di un fornitore specializzato come RunPod o Lambda Labs, e saranno tutti riuniti in un ambiente facile da usare. Si integra con Keycloak per l'autenticazione, quindi può essere integrato in qualsiasi ambiente aziendale ActiveDirectory/LDAP/OAuth.