AcruxCore pomaže timovima upravljati verzijama upita, pratiti i procjenjivati LLM pozive te mijenjati produkcijske upite bez ponovne implementacije aplikacije.

Objavljeno od AcruxCore

Nabavite zasebnu desktop aplikaciju za AcruxCore na Macu, Windowsima i Linuxu uz WebCatalog Desktop.

  • Pokrenite AcruxCore izravno iz Docka ili programske trake.
  • Radite bez ometanja u zasebnom prozoru, odvojeno od kartica preglednika.
  • Upravljajte s više AcruxCore računa i prebacujte se između njih bez odjave.

Saznajte više o WebCatalog Desktop

Za inženjerske timove koji izrađuju i održavaju značajke temeljene na LLM-u, AcruxCore pomaže povezati promjene upita s ponašanjem u produkciji kako bi mogli istražiti loše odgovore i ažurirati upite bez ponovne implementacije aplikacije. Timovi mogu upravljati predlošcima upita i njihovim verzijama, a zatim prebaciti produkcijski alias na novu verziju kad bude spremna. Trase prikazuju pojedinosti o modelu, tokenima, latenciji i troškovima poziva, a sesije i povratne informacije o rasponima pomažu u pronalaženju problema. AcruxCore nudi i pristupnik kompatibilan s OpenAI-jem za usmjeravanje poziva povezanim pružateljima modela, uz mogućnosti pričuvnih opcija, proračuna, ograničenja brzine i predmemoriranja. Timovi mogu upravljati verzioniranim alatima, procjenjivati upite i modele na temelju skupova podataka te voditi revizijski trag promjena. Dostupni su SDK-ovi za TypeScript i Python te REST API. Koristite platformu koja se hostira ili je sami hostirajte; projekt je otvorenog koda pod licencom Apache 2.0.

Odricanje od odgovornosti: WebCatalog nije povezan, udružen, ovlašten, podržan od strane niti na bilo koji način službeno povezan s AcruxCore. Svi nazivi proizvoda, logotipi i robne marke vlasništvo su svojih odgovarajućih vlasnika.