Añadir a Chrome¿Eres el desarrollador de esta app? Verifica la propiedad para gestionar esta ficha.
Consigue una app de escritorio dedicada para RunInfra en Mac, Windows y Linux con WebCatalog Desktop.
- Abre RunInfra directamente desde el Dock o la barra de tareas.
- Trabaja sin distracciones en una ventana propia, separada de las pestañas del navegador.
- Mantén la sesión iniciada en varias cuentas de RunInfra y cambia entre ellas sin cerrar sesión.
RunInfra es una plataforma de infraestructura de IA para construir e implementar puntos finales de inferencia de IA de producción desde un lenguaje sencillo. Está diseñado para ayudar a los desarrolladores y equipos a convertir un caso de uso descrito en una API en vivo sin administrar YAML, la configuración manual de GPU o flujos de trabajo de DevOps. La aplicación admite una variedad de cargas de trabajo de IA, incluidos modelos de lenguaje grandes, conversión de voz a texto, texto a voz, incrustaciones y canalizaciones multimodelo. Puede seleccionar modelos, comparar GPU, aplicar pasos de optimización e implementar puntos finales HTTP compatibles con OpenAI para su uso en aplicaciones de producción. RunInfra también admite chatbots de baja latencia, canales de resumen por lotes y enrutamiento de modelos para diferentes necesidades de rendimiento y costos. Las capacidades clave incluyen inferencia de GPU administrada, implementación automática de modelos, optimización del rendimiento, opciones de escalado como implementaciones de escala a cero o siempre activas y soporte para modelos de código abierto de Hugging Face. La plataforma está dirigida a usuarios que necesitan una forma más sencilla de ejecutar modelos de IA como API de producción con menos gastos generales de infraestructura.
Descargo de responsabilidad: WebCatalog no está afiliado, asociado, autorizado ni respaldado por RunInfra, ni tiene ninguna conexión oficial con dicha entidad. Todos los nombres de productos, logotipos y marcas son propiedad de sus respectivos propietarios.
