Jeste li programer ove aplikacije? Potvrdite vlasništvo kako biste upravljali ovim unosom.
OpenRelay je AI infrastrukturna platforma za hostirano zaključivanje modela i GPU računalstvo na zahtjev. Programerima i timovima omogućuje pokretanje AI radnih opterećenja putem objedinjenog API-ja kompatibilnog s OpenAI-jem, s pristupom modelima pružatelja usluga kao što su DeepSeek, Llama, Qwen, Mistral, Gemma i GPT-OSS. Zahtjevi se mogu automatski usmjeravati na temelju kašnjenja, cijene, dostupnosti i izvedbe modela.
Platforma podržava zaključivanje bez poslužitelja, namjenske GPU virtualne strojeve i skupne poslove za interaktivna i radna opterećenja velikog volumena. Korisnici mogu odabrati GPU resurse, implementirati prilagođena okruženja, povezati se putem SSH-a i koristiti postojane volumene za podatke koji prežive ponovno pokretanje. OpenRelay također nudi automatski failover i balansiranje opterećenja preko dostupne infrastrukture, zajedno s integracijama naredbenog retka i MCP-a za upravljanje implementacijama, korištenjem i računalnim resursima iz razvojnih alata ili automatiziranih radnih procesa.
Odricanje od odgovornosti: WebCatalog nije povezan, udružen, ovlašten, podržan od strane niti na bilo koji način službeno povezan s OpenRelay. Svi nazivi proizvoda, logotipi i robne marke vlasništvo su svojih odgovarajućih vlasnika.