Adakah anda pembangun apl ini? Sahkan pemilikan untuk mengurus penyenaraian ini.
OpenRelay ialah platform infrastruktur AI untuk inferens model yang dihoskan dan pengkomputeran GPU atas permintaan. Ia membolehkan pembangun dan pasukan menjalankan beban kerja AI melalui API bersatu, serasi OpenAI, dengan akses kepada model daripada pembekal seperti DeepSeek, Llama, Qwen, Mistral, Gemma dan GPT-OSS. Permintaan boleh dihalakan secara automatik berdasarkan kependaman, kos, ketersediaan dan prestasi model.
Platform ini menyokong inferens tanpa pelayan, mesin maya GPU khusus dan tugas kelompok untuk beban kerja interaktif dan volum tinggi. Pengguna boleh memilih sumber GPU, menggunakan persekitaran tersuai, menyambung melalui SSH dan menggunakan volum yang berterusan untuk data yang kekal dimulakan semula. OpenRelay juga menyediakan failover automatik dan pengimbangan beban merentas infrastruktur yang tersedia, bersama-sama dengan baris perintah dan integrasi MCP untuk mengurus penempatan, penggunaan dan sumber pengiraan daripada alatan pembangunan atau aliran kerja automatik.
Penafian: WebCatalog tidak berafiliasi, berkaitan, diberi kuasa, disokong oleh atau dalam apa-apa cara berkaitan secara rasmi dengan OpenRelay. Semua nama produk, logo dan jenama adalah milik pemilik masing-masing.