Додати до ChromeВи розробник цього застосунку? Підтвердьте право власності, щоб керувати цією сторінкою.
Отримайте окремий настільний застосунок для Wafer на Mac, Windows і Linux з WebCatalog Desktop.
- Запускайте Wafer просто з Dock або панелі завдань.
- Працюйте без відволікань в окремому вікні, поза вкладками браузера.
- Керуйте кількома обліковими записами Wafer і перемикайтеся між ними без виходу.
Wafer призначений для інженерних команд, які створюють продукти на основі ШІ й потребують швидких і надійних відповідей моделей за реального навантаження. Він допомагає усувати вузькі місця, пов’язані із затримками та продуктивністю, які можуть впливати на такі застосунки, як голосові агенти, помічники з програмування та інші функції ШІ, що потребують повторних викликів моделі. Команди можуть надати модель, дані про характер робочого навантаження у виробничому середовищі та цільові показники продуктивності, щоб створити виділену кінцеву точку для інференсу. Wafer аналізує навантаження на систему обслуговування моделей і налаштовує конфігурації моделі, рушія інференсу, ядер і обладнання, зокрема параметри пакетної обробки, кешування та декодування. Він перевіряє кандидатні конфігурації на коректність і надійність, а потім продовжує профілювання й оптимізацію в разі змін трафіку чи моделей. Wafer може підійти командам, яким потрібне обслуговування моделей, адаптоване до конкретного робочого навантаження, замість самостійного налаштування продуктивності інференсу.
Відмова від відповідальності: WebCatalog не є афілійованим, пов’язаним, уповноваженим або схваленим Wafer і не має з ним жодного офіційного зв’язку. Усі назви продуктів, логотипи та бренди є власністю відповідних власників.
