生成式AI邊緣應用發展動向
作者：楊智傑
定價：電子檔 300 元/點
出版單位：資策會MIC
出版日期：2024/01/12
出版類型：產業評析
所屬領域：資訊硬體
瀏覽次數：641
加入最愛
摘要
繼生成式AI（Generative AI）為ChatGPT帶動並形成新的AI熱潮後，生成式AI從雲端的訓練與推論服務，開始走向雲端訓練，企業端、邊緣推論的應用模式，除各大廠推出用於生成式AI的專家型大語言模型（Large Language Model, LLM）外，AI評測機構MLPerf亦首次訂立LLM推論評測標準，晶片、伺服器業者則陸續推出企業端LLM產品，示意著生成式AI的地端、邊緣應用已開始進入白熱化階段。
內文標題
一、雲端生成式AI服務，逐漸顯出應用侷限
二、首個「生成式AI推論」評測標準誕生
三、大廠紛推企業LLM解決方案
四、結論