Вие ли сте разработчикът на това приложение? Потвърдете собствеността, за да управлявате тази страница.
OpenRelay е AI инфраструктурна платформа за извеждане на хоствани модели и GPU изчисления при поискване. Той позволява на разработчиците и екипите да изпълняват AI работни натоварвания чрез унифициран, OpenAI-съвместим API, с достъп до модели от доставчици като DeepSeek, Llama, Qwen, Mistral, Gemma и GPT-OSS. Заявките могат да се насочват автоматично въз основа на латентност, цена, наличност и производителност на модела.
Платформата поддържа изводи без сървър, специални GPU виртуални машини и групови задачи както за интерактивни, така и за големи обеми натоварвания. Потребителите могат да избират GPU ресурси, да внедряват персонализирани среди, да се свързват чрез SSH и да използват постоянни томове за данни, които оцеляват при рестартиране. OpenRelay също така осигурява автоматичен отказ и балансиране на натоварването в наличната инфраструктура, заедно с команден ред и MCP интеграции за управление на внедрявания, използване и изчислителни ресурси от инструменти за разработка или автоматизирани работни потоци.
Отказ от отговорност: WebCatalog не е свързан, асоцииран, упълномощен, одобрен от или по какъвто и да е начин официално свързан с OpenRelay. Всички имена на продукти, лога и марки са собственост на съответните им притежатели.
Разработчици