Legg til i ChromeEr du utvikleren av denne appen? Verifiser eierskapet for å administrere denne oppføringen.
Få en egen skrivebordsapp for RunInfra på Mac, Windows og Linux med WebCatalog Desktop.
- Åpne RunInfra rett fra Dock eller oppgavelinjen.
- Jobb uten distraksjoner i et eget vindu, adskilt fra nettleserfanene dine.
- Forbli pålogget flere RunInfra-kontoer, og bytt mellom dem uten å logge ut.
RunInfra er en AI-infrastrukturplattform for å bygge og distribuere produksjons-AI-inferensendepunkter fra vanlig engelsk. Den er designet for å hjelpe utviklere og team med å gjøre en beskrevet brukstilfelle til en live API uten å administrere YAML, manuell GPU-konfigurasjon eller DevOps-arbeidsflyter. Appen støtter en rekke AI-arbeidsbelastninger, inkludert store språkmodeller, tale-til-tekst, tekst-til-tale, innebygging og multi-modell pipelines. Den kan velge modeller, benchmarke GPUer, bruke optimaliseringstrinn og distribuere OpenAI-kompatible HTTP-endepunkter for bruk i produksjonsapplikasjoner. RunInfra støtter også chatbots med lav latens, rørledninger for batchoppsummering og modellruting for ulike ytelses- og kostnadsbehov. Nøkkelfunksjoner inkluderer administrert GPU-slutning, automatisk modelldistribusjon, ytelsesoptimalisering, skaleringsalternativer som skalering til null eller alltid-på-distribusjoner, og støtte for åpen kildekode-modeller fra Hugging Face. Plattformen er rettet mot brukere som trenger en enklere måte å kjøre AI-modeller som produksjons-APIer med mindre infrastrukturoverhead.
Ansvarsfraskrivelse: WebCatalog er ikke tilknyttet, assosiert med, autorisert av, godkjent av eller på noen måte offisielt knyttet til RunInfra. Alle produktnavn, logoer og varemerker tilhører sine respektive eiere.
