Êtes-vous le développeur de cette app ? Vérifiez que vous en êtes propriétaire pour gérer cette fiche.
OpenRelay est une plate-forme d'infrastructure d'IA pour l'inférence de modèles hébergés et le calcul GPU à la demande. Il permet aux développeurs et aux équipes d'exécuter des charges de travail d'IA via une API unifiée et compatible OpenAI, avec accès aux modèles de fournisseurs tels que DeepSeek, Llama, Qwen, Mistral, Gemma et GPT-OSS. Les requêtes peuvent être automatiquement acheminées en fonction de la latence, du coût, de la disponibilité et des performances du modèle.
La plate-forme prend en charge l'inférence sans serveur, les machines virtuelles GPU dédiées et les tâches par lots pour les charges de travail interactives et à volume élevé. Les utilisateurs peuvent sélectionner des ressources GPU, déployer des environnements personnalisés, se connecter via SSH et utiliser des volumes persistants pour les données qui survivent aux redémarrages. OpenRelay fournit également un basculement automatique et un équilibrage de charge sur l'infrastructure disponible, ainsi que des intégrations de ligne de commande et MCP pour gérer les déploiements, l'utilisation et les ressources de calcul à partir d'outils de développement ou de flux de travail automatisés.
Avertissement : WebCatalog n’est ni affilié, ni associé, ni autorisé, ni approuvé par OpenRelay, et n’entretient aucun lien officiel avec cette entité. Tous les noms de produits, logos et marques sont la propriété de leurs détenteurs respectifs.