OpenRelay erbjuder modellinferens och GPU-beräkning via ett OpenAI-kompatibelt API, med stöd för serverlösa körningar, dedikerade GPU-maskiner, batchjobb och anpassade miljöer.

Är du utvecklaren av den här appen? Verifiera ägarskap för att hantera den här listningen.

Skaffa en egen skrivbordsapp för OpenRelay på Mac, Windows och Linux med WebCatalog Desktop.

  • Starta OpenRelay direkt från Dock eller aktivitetsfältet.
  • Arbeta utan distraktioner i ett eget fönster, åtskilt från dina webbläsarflikar.
  • Hantera flera OpenRelay-konton och växla mellan dem utan att logga ut.

Läs mer om WebCatalog Desktop

OpenRelay är en AI-infrastrukturplattform för värdbaserad modellinferens och on-demand GPU-beräkning. Det gör det möjligt för utvecklare och team att köra AI-arbetsbelastningar genom ett enhetligt, OpenAI-kompatibelt API, med tillgång till modeller från leverantörer som DeepSeek, Llama, Qwen, Mistral, Gemma och GPT-OSS. Förfrågningar kan dirigeras automatiskt baserat på latens, kostnad, tillgänglighet och modellprestanda. Plattformen stöder serverlös slutledning, dedikerade virtuella GPU-maskiner och batchjobb för både interaktiva och stora volymer. Användare kan välja GPU-resurser, distribuera anpassade miljöer, ansluta via SSH och använda beständiga volymer för data som överlever omstarter. OpenRelay tillhandahåller också automatisk failover och lastbalansering över tillgänglig infrastruktur, tillsammans med kommandorads- och MCP-integrationer för hantering av distributioner, användning och beräkningsresurser från utvecklingsverktyg eller automatiserade arbetsflöden.

Ansvarsfriskrivning: WebCatalog är inte anslutet till, associerat med, auktoriserat av, rekommenderat av eller på något sätt officiellt kopplat till OpenRelay. Alla produktnamn, logotyper och varumärken tillhör sina respektive ägare.