Adakah anda pembangun apl ini? Sahkan pemilikan untuk mengurus penyenaraian ini.
RunInfra ialah platform infrastruktur AI untuk membina dan menggunakan titik akhir inferens AI pengeluaran daripada bahasa Inggeris biasa. Ia direka bentuk untuk membantu pembangun dan pasukan menukar kes penggunaan yang diterangkan kepada API langsung tanpa mengurus YAML, konfigurasi GPU manual atau aliran kerja DevOps.
Apl ini menyokong pelbagai beban kerja AI, termasuk model bahasa yang besar, pertuturan ke teks, teks ke pertuturan, pembenaman dan saluran paip berbilang model. Ia boleh memilih model, menanda aras GPU, menggunakan langkah pengoptimuman dan menggunakan titik akhir HTTP serasi OpenAI untuk digunakan dalam aplikasi pengeluaran. RunInfra juga menyokong bot sembang kependaman rendah, saluran paip ringkasan kelompok dan penghalaan model untuk keperluan prestasi dan kos yang berbeza.
Keupayaan utama termasuk inferens GPU terurus, penggunaan model automatik, pengoptimuman prestasi, pilihan penskalaan seperti penggunaan skala kepada sifar atau sentiasa aktif dan sokongan untuk model sumber terbuka daripada Hugging Face. Platform ini ditujukan kepada pengguna yang memerlukan cara yang lebih mudah untuk menjalankan model AI sebagai API pengeluaran dengan overhed infrastruktur yang kurang.
Penafian: WebCatalog tidak terafiliasi, berkaitan, diberi kuasa, atau disahkan oleh ataupun dalam apa jua cara yang berkaitan dengan RunInfra. Semua nama produk, logo, dan jenama ialah hak milik pemilik masing-masing.
