Baseten

Basetenは、生産用にさまざまなサイズとタイプのモデルを効率的に展開するように設計された包括的な機械学習インフラストラクチャプラットフォームです。ユーザーがモデルライブラリから基礎モデルを簡単に展開できる堅牢な環境を提供し、A100、A10、T4などの高性能GPUインスタンスを活用して計算機能を強化します。

Basetenの重要な機能の1つは、オープンソースツールであるTrussです。これにより、開発者がモデルサーバーを使用してモデルコード、重み、依存関係をパッケージ化およびテストできるようにすることにより、AIおよびMLモデルの展開を簡素化します。 Trussは、Pytorch、Tensorflow、Custom Modelsなどの一般的なフレームワークで作成されたモデルをサポートしており、複雑なDockerやKubernetesの構成を必要とせずに、ライブリロードサーバーを介して迅速なフィードバックを提供します。

Basetenのプラットフォームは、機械学習操作を効率的に拡大しようとする組織にとって特に有益です。消費ベースの価格設定モデルをサポートします。これは、カスタムモデルと厳格なパフォーマンス要件を持つ顧客にとって有利です。モデルレベルのパフォーマンス、水平方向のスケーラビリティ、および開発者エクスペリエンスに焦点を当てることにより、Basetenはミッションクリティカルな推論ワークロードに信頼できるソリューションを提供します。