Oletko tämän sovelluksen kehittäjä? Vahvista omistajuus hallitaksesi tätä listausta.
RunInfra on tekoäly-infrastruktuurialusta, jonka avulla voidaan rakentaa ja ottaa käyttöön tuotantotekoälyn päätepisteitä yksinkertaisella englannin kielellä. Se on suunniteltu auttamaan kehittäjiä ja tiimejä muuttamaan kuvatun käyttötapauksen live-sovellusliittymäksi ilman YAML:n, manuaalisen GPU-määrityksen tai DevOps-työnkulkujen hallintaa.
Sovellus tukee useita tekoälyn työkuormia, mukaan lukien suuret kielimallit, puhe tekstiksi, teksti puheeksi, upotukset ja usean mallin liukuhihnat. Se voi valita malleja, vertailla GPU:ita, soveltaa optimointivaiheita ja ottaa käyttöön OpenAI-yhteensopivia HTTP-päätepisteitä käytettäväksi tuotantosovelluksissa. RunInfra tukee myös matalan viiveen chatbotteja, eräyhteenvedon putkia ja mallin reititystä erilaisiin suorituskyky- ja kustannustarpeisiin.
Tärkeimmät ominaisuudet sisältävät hallitun GPU-päättelyn, automaattisen mallin käyttöönoton, suorituskyvyn optimoinnin, skaalausvaihtoehdot, kuten skaalaus nollaan tai aina päällä, sekä Hugging Facen avoimen lähdekoodin mallien tuki. Alusta on suunnattu käyttäjille, jotka tarvitsevat helpomman tavan käyttää tekoälymalleja tuotantosovellusliittyminä pienemmillä infrastruktuurikustannuksilla.
Vastuuvapauslauseke: WebCatalog ei ole sidoksissa, yhteydessä, valtuutettu, hyväksytty eikä millään tavoin virallisesti liitetty RunInfra kanssa. Kaikki tuotenimet, logot ja brändit ovat omistajiensa omaisuutta.
