Προσθήκη στο ChromeΕίστε ο προγραμματιστής αυτής της εφαρμογής; Επαληθεύστε την κυριότητά σας για να διαχειριστείτε αυτήν την καταχώριση.
Αποκτήστε μια ξεχωριστή εφαρμογή υπολογιστή για το RunInfra σε Mac, Windows και Linux με το WebCatalog Desktop.
- Ανοίξτε το RunInfra απευθείας από το Dock ή τη γραμμή εργασιών.
- Δουλέψτε χωρίς περισπασμούς σε ξεχωριστό παράθυρο, μακριά από τις καρτέλες του προγράμματος περιήγησης.
- Μείνετε συνδεδεμένοι σε πολλούς λογαριασμούς RunInfra και εναλλάσσεστε μεταξύ τους χωρίς αποσύνδεση.
Το RunInfra είναι μια πλατφόρμα υποδομής τεχνητής νοημοσύνης για τη δημιουργία και την ανάπτυξη τελικών σημείων συμπερασμάτων τεχνητής νοημοσύνης παραγωγής από απλά αγγλικά. Έχει σχεδιαστεί για να βοηθά τους προγραμματιστές και τις ομάδες να μετατρέψουν μια περιγραφόμενη περίπτωση χρήσης σε ζωντανό API χωρίς διαχείριση YAML, μη αυτόματης διαμόρφωσης GPU ή ροών εργασίας DevOps. Η εφαρμογή υποστηρίζει μια σειρά από φόρτους εργασίας τεχνητής νοημοσύνης, συμπεριλαμβανομένων μεγάλων μοντέλων γλώσσας, ομιλίας σε κείμενο, κειμένου σε ομιλία, ενσωματώσεων και αγωγών πολλαπλών μοντέλων. Μπορεί να επιλέξει μοντέλα, να αξιολογήσει GPU, να εφαρμόσει βήματα βελτιστοποίησης και να αναπτύξει τελικά σημεία HTTP συμβατά με OpenAI για χρήση σε εφαρμογές παραγωγής. Το RunInfra υποστηρίζει επίσης chatbots χαμηλής καθυστέρησης, αγωγούς σύνοψης παρτίδων και δρομολόγηση μοντέλων για διαφορετικές ανάγκες απόδοσης και κόστους. Οι βασικές δυνατότητες περιλαμβάνουν συμπεράσματα διαχειριζόμενης GPU, αυτόματη ανάπτυξη μοντέλου, βελτιστοποίηση απόδοσης, επιλογές κλιμάκωσης, όπως αναπτύξεις κλίμακας έως μηδέν ή πάντα σε λειτουργία και υποστήριξη για μοντέλα ανοιχτού κώδικα από το Hugging Face. Η πλατφόρμα απευθύνεται σε χρήστες που χρειάζονται έναν ευκολότερο τρόπο εκτέλεσης μοντέλων τεχνητής νοημοσύνης ως API παραγωγής με λιγότερα έξοδα υποδομής.
Αποποίηση ευθύνης: Το WebCatalog δεν συνδέεται, σχετίζεται, εξουσιοδοτείται, εγκρίνεται από ούτε συνδέεται επίσημα με οποιονδήποτε τρόπο με το RunInfra. Όλα τα ονόματα προϊόντων, τα λογότυπα και οι επωνυμίες αποτελούν ιδιοκτησία των αντίστοιχων κατόχων τους.
