OpenRelay는 호스팅 모델 추론 및 주문형 GPU 컴퓨팅을 위한 AI 인프라 플랫폼입니다. 이를 통해 개발자와 팀은 DeepSeek, Llama, Qwen, Mistral, Gemma 및 GPT-OSS와 같은 제공업체의 모델에 액세스하여 통합 OpenAI 호환 API를 통해 AI 워크로드를 실행할 수 있습니다. 요청은 대기 시간, 비용, 가용성 및 모델 성능에 따라 자동으로 라우팅될 수 있습니다.

이 플랫폼은 서버리스 추론, 전용 GPU 가상 머신, 대화형 워크로드와 대용량 워크로드 모두에 대한 일괄 작업을 지원합니다. 사용자는 GPU 리소스를 선택하고, 사용자 정의 환경을 배포하고, SSH를 통해 연결하고, 재시작 후에도 유지되는 데이터에 영구 볼륨을 사용할 수 있습니다. OpenRelay는 또한 개발 도구 또는 자동화된 워크플로에서 배포, 사용량 및 컴퓨팅 리소스를 관리하기 위한 명령줄 및 MCP 통합과 함께 사용 가능한 인프라 전반에 걸쳐 자동 장애 조치 및 로드 밸런싱을 제공합니다.

면책 조항: WebCatalog는 OpenRelay와(과) 제휴, 연계, 승인 또는 보증 관계에 있지 않으며, 어떠한 방식으로도 공식적인 관련이 없습니다. 모든 제품명, 로고 및 브랜드는 해당 소유자의 자산입니다.