6月23日訊（編輯 若宇）高通近日發(fā)布AI白皮書(shū)稱，混合AI是AI的未來(lái)，將支持生成式AI應(yīng)用開(kāi)發(fā)者和提供商利用邊緣側(cè)終端的計(jì)算能力降低成本。混合AI架構(gòu)或僅在終端側(cè)運(yùn)行AI，能夠在全球范圍帶來(lái)高性能、個(gè)性化、隱私和安全等優(yōu)勢(shì)。此外，混合AI架構(gòu)可以根據(jù)模型和查詢需求的復(fù)雜度等因素，選擇不同方式在云端和終端側(cè)之間分配處理負(fù)載。

（圖源高通中國(guó)官方微公眾號(hào)）

據(jù)高通混合AI白皮書(shū)，在混合AI場(chǎng)景中，邊緣大模型是云端大模型的感知器官，例如用戶對(duì)手機(jī)說(shuō)話，自動(dòng)語(yǔ)音識(shí)別（ASR）AI模型如Whisper在設(shè)備上轉(zhuǎn)換語(yǔ)音為文本，發(fā)送到云端，云端運(yùn)行大模型，回發(fā)文本答案。

在進(jìn)階版本中，設(shè)備AI更進(jìn)一步保護(hù)隱私，承擔(dān)更多處理，提供更個(gè)性化的提示給云通過(guò)設(shè)備學(xué)習(xí)和個(gè)人數(shù)據(jù)，設(shè)備創(chuàng)建用戶個(gè)人形象，與調(diào)度程序協(xié)作，基于上下文提供更好的提示；例如，用戶要求手機(jī)預(yù)約和朋友在最愛(ài)餐廳吃飯，對(duì)簡(jiǎn)單查詢，較小的大模型可在設(shè)備上運(yùn)行無(wú)需云交互，如果用戶需要復(fù)雜息，則本地將需求轉(zhuǎn)化為提示發(fā)給云端大模型并返回詳細(xì)答案。

(資料圖)

高通指出，隨著強(qiáng)大的生成式AI模型不斷縮小，以及終端側(cè)處理能力的持續(xù)提升，混合AI的潛力將會(huì)進(jìn)一步增長(zhǎng)。參數(shù)超過(guò)10億的AI模型已經(jīng)能夠在手機(jī)上運(yùn)行，且性能和精度達(dá)到與云端相似的水平。不久的將來(lái)，擁有100億或更高參數(shù)的模型將能夠在終端上運(yùn)行。混合AI策略適用于幾乎所有生成式AI應(yīng)用和終端領(lǐng)域，對(duì)推動(dòng)生成式AI規(guī)?；瘮U(kuò)展，滿足全球企業(yè)與消費(fèi)者需求至關(guān)重要。

中建投閻貴成等人6月15日研報(bào)表示，AIGC大模型及應(yīng)用爆紅，拉動(dòng)算力需求。在萬(wàn)物互聯(lián)大部分場(chǎng)景中，云端處理存在時(shí)延較長(zhǎng)、成本較高、并且涉及數(shù)據(jù)隱私等問(wèn)題，邊緣AI算力的引入至關(guān)重要。我們認(rèn)為未來(lái)AI算力將綜合考慮硬件能力、成本等因素，以混合AI的架構(gòu)，在邊端和云端靈活分配。

據(jù)了解，混合AI指的其實(shí)是云端和設(shè)備端共同處理AI計(jì)算，借助設(shè)備端的即時(shí)感知、即時(shí)處理優(yōu)勢(shì)，來(lái)填補(bǔ)云端AI在延遲方面的短板，同時(shí)還通過(guò)云端的超高算力，來(lái)彌補(bǔ)端側(cè)AI性能的缺憾。

高通中國(guó)區(qū)董事長(zhǎng)孟樸表示，混合AI勢(shì)不可擋，助推AI規(guī)?；l(fā)展。在孟樸看來(lái)，從過(guò)去20年AI的發(fā)展，到最近大語(yǔ)言模型的發(fā)展、交互式AI的發(fā)展，所有這些都推動(dòng)了整個(gè)產(chǎn)業(yè)的快速發(fā)展?？梢钥吹剑藗兪褂玫碾娮釉O(shè)備，不論是手機(jī)，還是冰箱、彩電等，越來(lái)越多地實(shí)現(xiàn)了智能化和網(wǎng)聯(lián)化，所有這些終端產(chǎn)品都產(chǎn)生了大量的數(shù)據(jù)，而且都具備情景感知的特點(diǎn)。

據(jù)不完全整理，在混合AI領(lǐng)域有所布局或有所合作的A股上市公司包括江南化工、天準(zhǔn)科技、首都在線和優(yōu)刻得等，具體情況如下

江南化工持有北京光年無(wú)限科技有限公司12.91%股份，根據(jù)北京光年科技公司的介紹，“智娃”產(chǎn)品支持硬件系統(tǒng)耦合，即支持本地內(nèi)容資源的調(diào)用、支持離在線混合AI計(jì)算架構(gòu)（該架構(gòu)可明顯提升AI響應(yīng)時(shí)間等）。

天準(zhǔn)科技是英偉達(dá)Jetson金牌合作伙伴，是Jetson在國(guó)內(nèi)最大的NPN (NVIDIA Preferred Partner)合作伙伴；天準(zhǔn)科技基于英偉達(dá)Jetson和地平線J5平臺(tái)面向AMR移動(dòng)機(jī)器人、自動(dòng)駕駛、智慧交通、智能制造等行業(yè)提供AI邊緣算力。

首都在線提供邊緣側(cè)的推理算力支持AIGC應(yīng)用，針對(duì)GPU服務(wù)器的特殊性，自研了管理芯片及配套的管理系統(tǒng)，搭建了面向ChatGPT行業(yè)的泛渲染異構(gòu)算力公有云平臺(tái)，新一代算力平臺(tái)可為ChatGPT類人工智能應(yīng)用提供算力、算法、云渲染等技術(shù)服務(wù)，已為國(guó)內(nèi)多家涉及人工智能類客戶提供服務(wù)。

優(yōu)刻得是國(guó)內(nèi)領(lǐng)先云服務(wù)提供商，根據(jù)客戶實(shí)際業(yè)務(wù)需求，可以為AI客戶提供CPU/GPU算力資源和服務(wù)，以公有云、混合云等不同模式滿足客戶的多樣化使用場(chǎng)景需求。

關(guān)鍵詞：

責(zé)任編輯：