
OpenRelay 提供相容 OpenAI API 的模型推理、專用 GPU 虛擬機器與批次運算服務,支援多種模型、彈性計費、自動路由及故障轉移。
您是這個應用程式的開發人員嗎?驗證擁有權以管理此列表。
OpenRelay 是一個用於託管模型推理和按需 GPU 運算的 AI 基礎架構平台。它使開發人員和團隊能夠透過統一的、相容於 OpenAI 的 API 運行 AI 工作負載,並可以存取來自 DeepSeek、Llama、Qwen、Mistral、Gemma 和 GPT-OSS 等供應商的模型。可以根據延遲、成本、可用性和模型效能自動路由請求。
該平台支援無伺服器推理、專用 GPU 虛擬機器以及互動式和大容量工作負載的批次作業。使用者可以選擇 GPU 資源、部署自訂環境、透過 SSH 連線以及使用持久性磁碟區來儲存重新啟動後仍保留的資料。 OpenRelay 還提供跨可用基礎設施的自動故障轉移和負載平衡,以及命令列和 MCP 集成,用於透過開發工具或自動化工作流程管理部署、使用和運算資源。
免責聲明:WebCatalog 與 OpenRelay 並無任何隸屬、關聯、授權或認可關係,亦不以任何方式與其存在官方連結。所有產品名稱、標誌及品牌均為其各自所有者的財產。