OpenRelay nabízí hostované odvozování AI modelů, GPU virtuální stroje a dávkové úlohy přes jednotné API s účtováním podle tokenů a využití.

Jste vývojářem této aplikace? Ověřte vlastnictví, abyste mohli spravovat tento výpis.

Získejte samostatnou desktopovou aplikaci pro OpenRelay v systémech Mac, Windows a Linux s WebCatalog Desktop.

  • Spouštějte OpenRelay přímo z Docku nebo hlavního panelu.
  • Pracujte bez rozptylování ve vlastním okně, odděleně od karet prohlížeče.
  • Spravujte více účtů OpenRelay a přepínejte mezi nimi bez odhlašování.

Další informace o WebCatalog Desktop

OpenRelay je platforma infrastruktury umělé inteligence pro odvozování hostovaných modelů a výpočty GPU na vyžádání. Umožňuje vývojářům a týmům spouštět pracovní zátěže AI prostřednictvím jednotného API kompatibilního s OpenAI s přístupem k modelům od poskytovatelů, jako jsou DeepSeek, Llama, Qwen, Mistral, Gemma a GPT-OSS. Požadavky lze automaticky směrovat na základě latence, ceny, dostupnosti a výkonu modelu. Platforma podporuje bezserverové odvození, vyhrazené virtuální stroje GPU a dávkové úlohy pro interaktivní i velkoobjemové úlohy. Uživatelé si mohou vybrat prostředky GPU, nasadit vlastní prostředí, připojit se prostřednictvím SSH a používat trvalé svazky pro data, která přežijí restartování. OpenRelay také poskytuje automatické převzetí služeb při selhání a vyrovnávání zátěže napříč dostupnou infrastrukturou spolu s integrací příkazového řádku a MCP pro správu nasazení, využití a výpočetních zdrojů z vývojových nástrojů nebo automatizovaných pracovních postupů.

Vyloučení odpovědnosti: WebCatalog není přidružen k OpenRelay, není s ním spojen, není jím autorizován ani podporován a nemá s ním žádné oficiální spojení. Všechny názvy produktů, loga a značky jsou majetkem příslušných vlastníků.