AcruxCore

Pentru echipele de inginerie care dezvoltă și întrețin funcționalități bazate pe LLM-uri, AcruxCore ajută la corelarea modificărilor prompturilor cu comportamentul din producție, astfel încât acestea să poată investiga răspunsurile nesatisfăcătoare și să actualizeze prompturile fără să redeployeze aplicația. Echipele pot gestiona șabloane și versiuni de prompturi, apoi pot comuta aliasul de producție la o versiune nouă atunci când aceasta este gata. Urmele afișează detalii despre model, tokeni, latență și cost pentru fiecare apel, iar sesiunile și feedbackul la nivel de span ajută la identificarea problemelor. AcruxCore oferă și un gateway compatibil cu OpenAI, pentru rutarea apelurilor către furnizorii de modele conectați, cu opțiuni de fallback, bugete, limite de rată și caching. Echipele pot gestiona instrumente cu versiuni, pot evalua prompturi și modele folosind seturi de date și pot păstra un jurnal de audit al modificărilor. Sunt disponibile SDK-uri pentru TypeScript și Python, precum și un API REST. Folosiți platforma găzduită sau găzduiți-o pe propriile servere; proiectul este open source, sub licența Apache 2.0.

Declinare a răspunderii: WebCatalog nu este afiliat, asociat, autorizat, aprobat de sau conectat oficial în niciun fel cu AcruxCore. Toate numele produselor, siglele și mărcile sunt proprietatea deținătorilor respectivi.