Ești dezvoltatorul acestei aplicații? Confirmă proprietatea pentru a gestiona această listare.
OpenRelay este o platformă de infrastructură AI pentru inferența modelului găzduit și calculul GPU la cerere. Permite dezvoltatorilor și echipelor să ruleze sarcini de lucru AI printr-un API unificat, compatibil cu OpenAI, cu acces la modele de la furnizori precum DeepSeek, Llama, Qwen, Mistral, Gemma și GPT-OSS. Solicitările pot fi direcționate automat pe baza latenței, costurilor, disponibilității și performanței modelului.
Platforma acceptă inferență fără server, mașini virtuale GPU dedicate și joburi în loturi atât pentru sarcini interactive, cât și cu volum mare. Utilizatorii pot selecta resurse GPU, pot implementa medii personalizate, se pot conecta prin SSH și pot folosi volume persistente pentru datele care supraviețuiesc repornirilor. OpenRelay oferă, de asemenea, failover automat și echilibrarea încărcăturii în infrastructura disponibilă, împreună cu linia de comandă și integrări MCP pentru gestionarea implementărilor, utilizării și resurselor de calcul din instrumentele de dezvoltare sau fluxurile de lucru automatizate.
Declinare a răspunderii: WebCatalog nu este afiliat, asociat, autorizat, aprobat de sau conectat oficial în niciun fel cu OpenRelay. Toate numele produselor, siglele și mărcile sunt proprietatea deținătorilor respectivi.