AcruxCore

LLMを活用した機能を構築・保守するエンジニアリングチーム向けに、AcruxCoreはプロンプトの変更と本番環境での動作を結び付けます。これにより、期待どおりでない応答を調査し、アプリケーションを再デプロイせずにプロンプトを更新できます。チームはプロンプトテンプレートとバージョンを管理し、準備ができたら本番用エイリアスを新しいバージョンに切り替えられます。トレースには呼び出しごとのモデル、トークン数、レイテンシ、コストの詳細が表示され、セッションやスパンへのフィードバックを利用して問題箇所を特定できます。 AcruxCoreは、接続済みのモデルプロバイダーに呼び出しをルーティングする、OpenAI互換のゲートウェイも提供します。フォールバック、予算、レート制限、キャッシュなどのオプションを利用できます。チームはバージョン管理されたツールを管理し、データセットを使ってプロンプトやモデルを評価し、変更の監査証跡を保持できます。TypeScriptおよびPython SDKとREST APIを利用できます。ホステッドプラットフォームを利用することも、セルフホストすることもできます。このプロジェクトはApache 2.0ライセンスのオープンソースです。

免責事項：WebCatalogは、AcruxCoreと提携、関連、承認、推奨されておらず、その他いかなる形でも公式に関係していません。すべての製品名、ロゴ、ブランドは、それぞれの所有者に帰属します。