Ste vývojárom tejto aplikácie? Overte vlastníctvo a spravujte tento záznam.
OpenRelay je platforma infraštruktúry AI pre vyvodzovanie hosteného modelu a GPU výpočty na požiadanie. Umožňuje vývojárom a tímom spúšťať úlohy AI prostredníctvom jednotného API kompatibilného s OpenAI s prístupom k modelom od poskytovateľov, ako sú DeepSeek, Llama, Qwen, Mistral, Gemma a GPT-OSS. Požiadavky môžu byť automaticky smerované na základe latencie, nákladov, dostupnosti a výkonu modelu.
Platforma podporuje odvodenie bez servera, vyhradené virtuálne stroje GPU a dávkové úlohy pre interaktívne aj vysokoobjemové pracovné zaťaženia. Používatelia si môžu vybrať prostriedky GPU, nasadiť vlastné prostredia, pripojiť sa cez SSH a použiť trvalé zväzky pre dáta, ktoré prežijú reštart. OpenRelay tiež poskytuje automatické prepnutie pri zlyhaní a vyvažovanie záťaže v rámci dostupnej infraštruktúry spolu s integráciou príkazového riadka a MCP na správu nasadení, používania a výpočtových zdrojov z vývojových nástrojov alebo automatizovaných pracovných postupov.
Upozornenie: WebCatalog nie je pridružený k spoločnosti OpenRelay, nie je s ňou spojený, autorizovaný ani schválený spoločnosťou OpenRelay a nemá s ňou žiadne oficiálne prepojenie. Všetky názvy produktov, logá a značky sú majetkom ich príslušných vlastníkov.