Jste vývojářem této aplikace? Ověřte vlastnictví, abyste mohli spravovat tento výpis.
OpenRelay je platforma infrastruktury umělé inteligence pro odvozování hostovaných modelů a výpočty GPU na vyžádání. Umožňuje vývojářům a týmům spouštět pracovní zátěže AI prostřednictvím jednotného API kompatibilního s OpenAI s přístupem k modelům od poskytovatelů, jako jsou DeepSeek, Llama, Qwen, Mistral, Gemma a GPT-OSS. Požadavky lze automaticky směrovat na základě latence, ceny, dostupnosti a výkonu modelu.
Platforma podporuje bezserverové odvození, vyhrazené virtuální stroje GPU a dávkové úlohy pro interaktivní i velkoobjemové úlohy. Uživatelé si mohou vybrat prostředky GPU, nasadit vlastní prostředí, připojit se prostřednictvím SSH a používat trvalé svazky pro data, která přežijí restartování. OpenRelay také poskytuje automatické převzetí služeb při selhání a vyrovnávání zátěže napříč dostupnou infrastrukturou spolu s integrací příkazového řádku a MCP pro správu nasazení, využití a výpočetních zdrojů z vývojových nástrojů nebo automatizovaných pracovních postupů.
Vyloučení odpovědnosti: WebCatalog není přidružen k OpenRelay, není s ním spojen, není jím autorizován ani podporován a nemá s ním žádné oficiální spojení. Všechny názvy produktů, loga a značky jsou majetkem příslušných vlastníků.