《產業》DIGITIMES:企業導入大型語言模型 首選雲端代管制

《產業》DIGITIMES:企業導入大型語言模型 首選雲端代管制

黃耀漢表示,美國生成式AI平臺Writer問卷調查顯示,2023年1至4月美國企業20%曾使用5種以上的生成式AI軟體,其中,前五名使用軟體皆爲生成文字類,主要應用於資訊系統、營運管理等領域,有鑑於此,指標業者紛推出LLM,以商業模式區分,微軟、Google爲B2B與B2C,Amazon Web Services(AWS)爲B2B。

生成式AI技術廣泛應用下,隱藏許多資安問題,目前邊緣模式爲降低資安風險最佳方案,但投資成本相對雲端模式高。邊緣端模式因封閉網路架構,資安等級較雲端方案高,但資安系統需用戶自行建立與維護,成本相對雲端高;而云端模式因開放網路架構,資安等級較邊緣端方案低,但資安系統由雲端平臺業者負責建立與維護,用戶擔負資安的成本較邊緣端低。

恆見桃花 小說

黃耀漢認爲,雲端LLM存在高運算力需求、高硬體成本、高延遲與低資安的問題,推論程序可由雲端轉移至邊緣端,有望克服相關問題,因邊緣小型語言模型具備低延遲與高資安優勢,因此,Meta、微軟、Hugging Face分別推出小參數量語言模型,有利於邊緣裝置上運作推論程序。

火影忍者(狐忍)【疾風傳 羈絆】劇場版 05
The morning sun

帝王18年威士忌 雕花威杯 尊荣分享

英业达×瑞萨攻车用 强化日本布局

屏东三军联训基地传27官兵染疫

黑模
腹黑总裁是妻奴 小说

韩孝周昔是国税厅宣传大使!遭爆追缴168万税金 公司急澄清