- 依內容分級制度,未登入僅能顯示普遍級內容,登入後即可觀看全站內容。
- 馬上登入
關注
關注作者、出版社、系列,新刊上架可獲得通知!
放大
內容簡介
邊緣GAI成真
生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,然而在邊緣端導入生成式AI技術,需要克服硬體效能、模型參數量及功耗帶來的挑戰。大型AI模型的訓練與推論仰賴大量的參數,以得出精準的結果。然而終端裝置的記憶體容量、處理器效能及能源有限。因此針對生成式AI在邊緣端應用的處理器設計,必須考量產品在效能、可處理的參數量及功耗方面,如何取得最佳平衡。
面對快速成長的邊緣AI應用市場,廠商推出的AI加速器、異質運算平台或MCU解決方案,持續為生成式AI走向終端鋪路。在終端設備資源有限的前提下,LLM需要透過量化(Quantization)等方式壓縮模型,並且確保推論維持一定的精準度。同時處理器廠商在CPU中導入AI引擎,也透過整合CPU、GPU與神經處理單元(NPU),提高AI裝置的效能,並且降低功耗。AI PC與AI手機陸續問世,也受到市場高度關注。
面對快速成長的邊緣AI應用市場,廠商推出的AI加速器、異質運算平台或MCU解決方案,持續為生成式AI走向終端鋪路。在終端設備資源有限的前提下,LLM需要透過量化(Quantization)等方式壓縮模型,並且確保推論維持一定的精準度。同時處理器廠商在CPU中導入AI引擎,也透過整合CPU、GPU與神經處理單元(NPU),提高AI裝置的效能,並且降低功耗。AI PC與AI手機陸續問世,也受到市場高度關注。
作者簡介
新電子編輯部
新電子編輯部
「新電子」系列
全系列作共96冊
相關推薦書刊
買此商品的人也買了...
購買前的注意事項
- 本書城的商品為電子書及電子雜誌,並非紙本書。讀者可透過電腦裝置網頁瀏覽,或使用 iPhone、iPad、Android 手機或平板電腦下載閱讀。
- 如有下載閱讀需求,為避免裝置版本無法適用,建議於購書前,先確認您的裝置可下載BOOK☆WALKER的APP,並可先下載免費電子書,確認可順利使用後再行購書。
- 由於數位智慧財產權之特性,所販售之電子書刊經購買後,除內容有瑕疵或錯誤者外,不得要求退貨及退款。如有特殊情形,請洽敝公司客服人員,我們將盡速為您處理。
現在完成手機驗證,還可以領取一本免費電子書!

