AcruxCore

For ingeniørteam som utvikler og vedlikeholder funksjoner drevet av store språkmodeller (LLM-er), gjør AcruxCore det enklere å koble promptendringer til atferden i produksjon. Dermed kan teamene undersøke dårlige svar og oppdatere promptene uten å måtte distribuere applikasjonen på nytt. Teamene kan administrere promptmaler og versjoner og bytte produksjonsaliaset til en ny versjon når den er klar. Spor viser detaljer om modell, tokenbruk, forsinkelse og kostnader for hvert kall. Økter og tilbakemeldinger på enkeltspenn gjør det enklere å finne problemer. AcruxCore tilbyr også en OpenAI-kompatibel gateway for å rute kall til tilkoblede modelltilbydere, med støtte for reservealternativer, budsjetter, hastighetsbegrensninger og mellomlagring. Teamene kan administrere versjonerte verktøy, evaluere prompter og modeller mot datasett og føre et revisjonsspor over endringer. TypeScript- og Python-SDK-er samt et REST-API er tilgjengelige. Bruk den driftede plattformen eller drift løsningen selv. Prosjektet er åpen kildekode under Apache 2.0-lisensen.

Ansvarsfraskrivelse: WebCatalog er ikke tilknyttet, assosiert med, autorisert av, godkjent av eller på noen måte offisielt knyttet til AcruxCore. Alle produktnavn, logoer og varemerker tilhører sine respektive eiere.