Oletko tämän sovelluksen kehittäjä? Vahvista omistajuus hallitaksesi tätä listausta.
OpenRelay on AI-infrastruktuurialusta isännöityjen mallien päättelyyn ja on-demand GPU-laskentaan. Sen avulla kehittäjät ja tiimit voivat suorittaa tekoälyn työkuormia yhtenäisen, OpenAI-yhteensopivan API:n kautta, jolla on pääsy malleihin sellaisilta palveluntarjoajilta kuin DeepSeek, Llama, Qwen, Mistral, Gemma ja GPT-OSS. Pyynnöt voidaan reitittää automaattisesti latenssin, hinnan, saatavuuden ja mallin suorituskyvyn perusteella.
Alusta tukee palvelimetonta päättelyä, omistettuja GPU-virtuaalikoneita ja erätöitä sekä interaktiivisille että suuren volyymin työkuormille. Käyttäjät voivat valita GPU-resursseja, ottaa käyttöön mukautettuja ympäristöjä, muodostaa yhteyden SSH:n kautta ja käyttää pysyviä määriä dataa, joka kestää uudelleenkäynnistyksen. OpenRelay tarjoaa myös automaattisen vikasieto- ja kuormituksen tasapainotuksen käytettävissä olevassa infrastruktuurissa sekä komentorivi- ja MCP-integraatiot käyttöönottojen, käytön ja laskentaresurssien hallintaan kehitystyökaluista tai automatisoiduista työnkuluista.
Vastuuvapauslauseke: WebCatalog ei ole sidoksissa OpenRelay:en, siihen liittyvä, sen valtuuttama, sen hyväksymä eikä millään tavalla virallisesti yhteydessä siihen. Kaikki tuotenimet, logot ja tuotemerkit ovat omistajiensa omaisuutta.