Cactus

還沒安裝 WebCatalog Desktop 嗎？請下載 WebCatalog Desktop。

使用 Web 應用程式

了解更多

Cactus 在手機上本地離線執行與部署 AI 模型，針對 ARM CPU 優化，提供低功耗、快速推理，支援 INT4/INT8 與無 NPU 的裝置。

Mac、Windows (PC) 版傳統型應用程式

在 macOS 和 Windows 上，透過 WebCatalog Desktop，於專屬、無干擾的視窗中使用 Cactus。透過更快速的應用程式切換和更流暢的多工處理，提升您的生產力。輕鬆管理並切換多個帳號，無需使用多個瀏覽器。

在擁有多種強化功能的視窗中不受干擾地執行應用程式。
無需切換瀏覽器，即可輕鬆管理與切換多個帳戶和應用程式。

下載 WebCatalog Desktop

Cactus是一款專為手機優化的數值計算框架和AI推理引擎，專注於多種設備的節能性能。它能夠在 ARM CPU 上高效運行自定義機器學習模型和科學計算，支持較舊和較新的手機，而無需嚴重依賴許多移動設備所缺乏的 GPU 或專用 NPU。

該應用程序提供快速、低功耗的內核實現，可減少電池消耗和設備發熱，使其適合功耗和熱管理至關重要的手機上的人工智能應用。 Cactus 支持 INT4 和 INT8 整數精度計算，以提高速度和能源效率。其設計強調與各種手機硬件的兼容性，包括 ARM CPU 以及支持 NPU、DSP 和 ISP 的計劃，通過利用可用的硬件加速器來增強人工智能推理，而不會影響電池壽命。

Cactus 主要使用 C++ 開發，並輔以 Python 和 shell 組件，旨在提供適用於移動環境的可擴展數值計算和人工智能推理功能。這使得開發人員能夠在消費智能手機上無縫實施和部署高效的人工智能模型，強調性能和資源優化。

主要能力包括：

針對基於 ARM 的手機 CPU 優化的節能 AI 推理
支持類似於 JAX 等框架的自定義數值計算模型
與多種移動設備兼容，包括那些沒有神經處理單元的設備
整數精度優化（INT4、INT8）以平衡速度和功耗
減少對 GPU 的依賴，以最大限度地減少電池消耗和設備發熱

Cactus 適合希望在功耗和熱預算有限的移動設備上集成 AI 推理的開發人員，通過優先考慮基於 CPU 的性能和效率，為以 GPU 和 NPU 為中心的框架提供替代方案。

此描述由 AI（人工智慧）生成。AI 可能會犯錯。請檢查重要資訊。

應用程序開發人員現在可以在其移動應用程序中部署私有、本地、離線 AI 模型，實現高達 150 個令牌/秒和 <50 毫秒的第一個令牌時間。目前，Cactus 已被超過 3000 名開發人員使用，每週在手機上完成超過 500k 次推理任務。它是開源的！查看存儲庫：https://github.com/cactus-compute/cactus。

網站： cactuscompute.com

免責聲明：WebCatalog 與 Cactus 並無任何相互隸屬、關聯、授權或認可之關係，亦非彼此的正式合作夥伴。所有產品名稱、標誌及品牌均為各自所有者的財產。