Tilføj til ChromeEr du udvikleren af denne app? Bekræft ejerskab for at administrere denne appside.
Få en dedikeret skrivebordsapp til RunInfra på Mac, Windows og Linux med WebCatalog Desktop.
- Åbn RunInfra direkte fra din Dock eller proceslinje.
- Arbejd uden distraktioner i et dedikeret vindue, adskilt fra dine browserfaner.
- Forbliv logget ind på flere RunInfra-konti, og skift mellem dem uden at logge ud.
RunInfra er en AI-infrastrukturplatform til opbygning og implementering af produktions-AI-inferensslutpunkter fra almindeligt engelsk. Det er designet til at hjælpe udviklere og teams med at omdanne en beskrevet use case til en live API uden at administrere YAML, manuel GPU-konfiguration eller DevOps-arbejdsgange. Appen understøtter en række AI-arbejdsbelastninger, herunder store sprogmodeller, tale-til-tekst, tekst-til-tale, indlejringer og multi-model pipelines. Det kan vælge modeller, benchmarke GPU'er, anvende optimeringstrin og implementere OpenAI-kompatible HTTP-slutpunkter til brug i produktionsapplikationer. RunInfra understøtter også chatbots med lav latens, batch-opsummeringspipelines og modelrouting til forskellige ydelses- og omkostningsbehov. Nøglefunktioner omfatter administreret GPU-inferens, automatisk modelimplementering, ydeevneoptimering, skaleringsmuligheder såsom skalering-til-nul eller altid-på-implementeringer og understøttelse af open source-modeller fra Hugging Face. Platformen er rettet mod brugere, der har brug for en nemmere måde at køre AI-modeller på som produktions-API'er med mindre infrastrukturoverhead.
Ansvarsfraskrivelse: WebCatalog er ikke tilknyttet, associeret med, autoriseret, godkendt af eller på nogen måde officielt forbundet med RunInfra. Alle produktnavne, logoer og brands tilhører deres respektive ejere.
