AcruxCore

AcruxCore auttaa suurilla kielimalleilla toimivia ominaisuuksia rakentavia ja ylläpitäviä suunnittelutiimejä yhdistämään kehotemuutokset tuotantoympäristön toimintaan. Näin tiimit voivat selvittää heikkolaatuisten vastausten syitä ja päivittää kehotteita ottamatta sovellusta uudelleen käyttöön. Tiimit voivat hallita kehote- ja versiomalleja ja vaihtaa tuotantoaliaksen uuteen versioon, kun se on valmis. Jäljitystiedot näyttävät malliin, tokeneihin, viiveeseen ja kustannuksiin liittyvät tiedot kutsuista. Istunnot ja span-kohtainen palaute auttavat paikantamaan ongelmia. AcruxCore tarjoaa myös OpenAI-yhteensopivan yhdyskäytävän, joka reitittää kutsut liitettyjen mallipalveluntarjoajien käsiteltäviksi. Käytettävissä on vaihtoehtoja varapalveluntarjoajille, budjeteille, nopeusrajoituksille ja välimuistille. Tiimit voivat hallita versioituja työkaluja, arvioida kehotteita ja malleja aineistoja vasten sekä ylläpitää muutosten tarkastusketjua. Saatavilla ovat TypeScript- ja Python-SDK:t sekä REST-rajapinta. Käytä isännöityä alustaa tai ylläpidä sitä itse. Projekti on avointa lähdekoodia Apache 2.0 -lisenssillä.

Vastuuvapauslauseke: WebCatalog ei ole sidoksissa AcruxCore:en, siihen liittyvä, sen valtuuttama, sen hyväksymä eikä millään tavalla virallisesti yhteydessä siihen. Kaikki tuotenimet, logot ja tuotemerkit ovat omistajiensa omaisuutta.