Är du utvecklaren av den här appen? Verifiera ägarskap för att hantera den här listningen.
OpenRelay är en AI-infrastrukturplattform för värdbaserad modellinferens och on-demand GPU-beräkning. Det gör det möjligt för utvecklare och team att köra AI-arbetsbelastningar genom ett enhetligt, OpenAI-kompatibelt API, med tillgång till modeller från leverantörer som DeepSeek, Llama, Qwen, Mistral, Gemma och GPT-OSS. Förfrågningar kan dirigeras automatiskt baserat på latens, kostnad, tillgänglighet och modellprestanda.
Plattformen stöder serverlös slutledning, dedikerade virtuella GPU-maskiner och batchjobb för både interaktiva och stora volymer. Användare kan välja GPU-resurser, distribuera anpassade miljöer, ansluta via SSH och använda beständiga volymer för data som överlever omstarter. OpenRelay tillhandahåller också automatisk failover och lastbalansering över tillgänglig infrastruktur, tillsammans med kommandorads- och MCP-integrationer för hantering av distributioner, användning och beräkningsresurser från utvecklingsverktyg eller automatiserade arbetsflöden.
Ansvarsfriskrivning: WebCatalog är inte anslutet till, associerat med, auktoriserat av, rekommenderat av eller på något sätt officiellt kopplat till OpenRelay. Alla produktnamn, logotyper och varumärken tillhör sina respektive ägare.