【資料圖】

資料來(lái)源：arXiv等

作者：詹士 Enzo

物聯(lián)網(wǎng)智庫(kù) 原創(chuàng)

導(dǎo)讀

史無(wú)前例的嘗試！科學(xué)家已經(jīng)開(kāi)始使用ChatGPT設(shè)計(jì)芯片了。生成式人工智能正在迅速拓寬其應(yīng)用邊界，你可能以為它還只是一個(gè)聊天機(jī)器人，實(shí)際上，生成式AI已經(jīng)能“造”芯片了。近日，紐約大學(xué)坦登工程學(xué)院的研究人員通過(guò)與AI“對(duì)話(huà)”，首次實(shí)現(xiàn)了由人工智能來(lái)設(shè)計(jì)一種微處理器芯片。該團(tuán)隊(duì)用“史無(wú)前例”描述此項(xiàng)研究。據(jù)稱(chēng)，這項(xiàng)成果的發(fā)布表明——生成式人工智能在硬件設(shè)計(jì)領(lǐng)域具備極高的潛在應(yīng)用價(jià)值，這不僅會(huì)對(duì)整個(gè)半導(dǎo)體芯片的研發(fā)起到加速作用，同時(shí)意味著“高不可攀”的半導(dǎo)體芯片設(shè)計(jì)門(mén)檻也會(huì)降低，甚至并非專(zhuān)門(mén)擁有該領(lǐng)域技術(shù)技能的人也可以參與其中。作為參與者之一，紐約大學(xué)坦登工程學(xué)院電氣與計(jì)算機(jī)工程系、紐約大學(xué)網(wǎng)絡(luò)安全中心助理教授哈蒙德?皮爾斯博士（Dr. Hammond Pearce）自己坦言，“我根本不是芯片設(shè)計(jì)專(zhuān)家，這是我設(shè)計(jì)的第一塊芯片，這也正是為什么我覺(jué)得它會(huì)如此令人印象深刻的原因?！蹦壳霸擁?xiàng)研究已經(jīng)發(fā)布在arxiv預(yù)印本平臺(tái)上，論文題為ChipChat：對(duì)話(huà)式硬件設(shè)計(jì)的機(jī)遇與挑戰(zhàn)。在論文中，研究團(tuán)隊(duì)展示了兩名硬件工程師如何通過(guò)用英語(yǔ)與GPT-4“交流”，進(jìn)而設(shè)計(jì)出新型微處理架構(gòu)并送去制造的過(guò)程。他們到底如何完成ChipChat項(xiàng)目研究的？一起來(lái)看看。

一個(gè)“好奇”翻開(kāi)了生成式AI的另一面

ChipChat項(xiàng)目的啟動(dòng)或許只是源于一個(gè)“好奇”。人工智能潮涌下，多數(shù)人對(duì)于大語(yǔ)言模型（LLM）的理解仍然停留在“好玩”，但皮爾斯博士顯然并不這么認(rèn)為。ChipChat項(xiàng)目就是要探索——現(xiàn)有的生成式AI大語(yǔ)言模型在硬件設(shè)計(jì)領(lǐng)域的能力和局限性。一般來(lái)說(shuō)，開(kāi)發(fā)任何類(lèi)型的硬件，包括芯片在內(nèi)，都需要從常用語(yǔ)言的需求描述開(kāi)始，然后通過(guò)需求對(duì)接，再讓專(zhuān)業(yè)的工程師用適合開(kāi)發(fā)的語(yǔ)言對(duì)硬件進(jìn)行描述。在上述過(guò)程中，我們需要將自然語(yǔ)言描述轉(zhuǎn)換成硬件描述語(yǔ)言 (HDL)，比如Verilog，這使得只有少數(shù)經(jīng)多年培訓(xùn)的工程師才能上手。ChipChat項(xiàng)目正是面向該問(wèn)題探索解決途徑。為此，研究團(tuán)隊(duì)計(jì)劃先通過(guò)對(duì)話(huà)的方式讓AI生成相應(yīng)代碼，然后對(duì)代碼加以檢驗(yàn)，直到確認(rèn)無(wú)誤后，他們?cè)賹⒕帉?xiě)的Verilog交付工廠(chǎng)進(jìn)行生產(chǎn)；基于上述思路，他們用提示詞一同測(cè)試了OpenAI旗下ChatGPT的4和3.5版，以及谷歌的Bard和HuggingChat一共4種生成式對(duì)話(huà)AI，通過(guò)對(duì)話(huà)方式提供提示詞，讓它們?cè)O(shè)計(jì)一個(gè)8位移位寄存器。這4個(gè)大語(yǔ)言模型均為近期熱門(mén)角色，其中，GPT-4發(fā)布于今年3月份，3.5版本的推出時(shí)間是在去年11月。HuggingChat是來(lái)自Huggingface平臺(tái)的開(kāi)源對(duì)話(huà)模型，推出時(shí)間為今年4月。初步測(cè)試顯示，Bard和HuggingChat兩個(gè)模型在測(cè)試中對(duì)話(huà)生成設(shè)計(jì)一直未能滿(mǎn)足設(shè)計(jì)要求，研究團(tuán)隊(duì)嘗試5次仍未能達(dá)標(biāo)。相比下，兩個(gè)版本ChatGPT的設(shè)計(jì)初步滿(mǎn)足了設(shè)計(jì)規(guī)格要求。即便發(fā)生錯(cuò)誤，經(jīng)過(guò)調(diào)試，ChatGPT亦能自行調(diào)整代碼，以達(dá)到人類(lèi)要求：更進(jìn)一步，研究團(tuán)隊(duì)讓兩個(gè)版本的ChatGPT面向更多需求進(jìn)行相關(guān)設(shè)計(jì)，再依靠模擬反饋結(jié)果進(jìn)行調(diào)試。這其中，“NFN”為無(wú)需反饋直接完成任務(wù)；“TF”指的是AI依據(jù)機(jī)器運(yùn)行結(jié)果反饋，最終調(diào)整好了結(jié)果；“SHF”及“AHF”，為簡(jiǎn)單與復(fù)雜的人類(lèi)反饋指導(dǎo)下AI完成了任務(wù)；倘若會(huì)話(huà)超過(guò)25條消息或需要人類(lèi)上手，則視為失敗，即“FAIL”。具體如下圖。能看出GPT-4表現(xiàn)明顯好于更早版本，面對(duì)諸多基準(zhǔn)測(cè)試失敗情況很少，且對(duì)話(huà)輪數(shù)也明顯少于GPT-3.5。在前面基礎(chǔ)上，研究者們通過(guò)124次對(duì)話(huà)成功讓GPT-4設(shè)計(jì)出一個(gè)8位累加器微處理器，經(jīng)由Skywater 130nm shuttle進(jìn)行制造。團(tuán)隊(duì)聲稱(chēng)，這項(xiàng)研究標(biāo)志著大語(yǔ)言模型設(shè)計(jì)的 IC 首次真正投入生產(chǎn)。但值得一提的是，即便表現(xiàn)最好的GPT-4仍然耗費(fèi)了研究者很多時(shí)間調(diào)試、不斷給提示詞，有的代碼生成了數(shù)十次。且研究者承認(rèn)，目前如果沒(méi)有人類(lèi)提示，AI還不能獨(dú)立進(jìn)行芯片設(shè)計(jì)，但作者仍然認(rèn)為，它可以在設(shè)計(jì)通用模塊時(shí)節(jié)省工程師們的時(shí)間。此外，他們還需要進(jìn)一步測(cè)試來(lái)識(shí)別和解決 AI 用于芯片設(shè)計(jì)所涉及的安全問(wèn)題。

生成式AI應(yīng)用于芯片設(shè)計(jì)并非首次

介紹下本文的作者們。哈蒙德?皮爾斯博士是紐約大學(xué)坦登工程學(xué)院電氣與計(jì)算機(jī)工程系、紐約大學(xué)網(wǎng)絡(luò)安全中心的研究助理教授，主攻方向?yàn)樾畔⑽锢硐到y(tǒng)（cyber-physical systems，CPS）及其網(wǎng)絡(luò)安全，同時(shí)兼顧研究機(jī)器學(xué)習(xí)在該領(lǐng)域設(shè)計(jì)和應(yīng)用中潛在的影響。除了前述提到的皮爾斯博士，ChipChat項(xiàng)目的其他成員也均來(lái)自于紐約大學(xué)坦登工程學(xué)院，包括拉梅什·卡里教授（Ramesh Karri）、研究所副教授希達(dá)赫·加爾格（Siddharth Garg）和博士生杰森·布洛克洛夫（Jason Blocklove）。拉梅什?卡里教授是洪堡獎(jiǎng)學(xué)金的獲得者（the recipient of the Humboldt Fellowship）和美國(guó)國(guó)家科學(xué)基金會(huì)職業(yè)將獲得者（the National Science Foundation CAREER Award），在紐約大學(xué)坦登工程學(xué)院電氣和計(jì)算機(jī)工程系任教授。迄今為止，他已經(jīng)發(fā)布期刊和會(huì)議出版物超200件，包括多次在IEEE上發(fā)表署名文章。希達(dá)赫?加爾格在紐約大學(xué)坦登工程學(xué)院ECE研究所任副教授一職，其研究方向是機(jī)器學(xué)習(xí)、網(wǎng)絡(luò)安全和計(jì)算機(jī)硬件設(shè)計(jì)。2015年，Siddharth Garg獲得美國(guó)國(guó)家科學(xué)基金會(huì)職業(yè)獎(jiǎng)。同時(shí)，他在計(jì)算機(jī)工程和計(jì)算機(jī)硬件領(lǐng)域的多個(gè)頂級(jí)會(huì)議的技術(shù)計(jì)劃委員會(huì)任職，并擔(dān)任IEEE和ACM多個(gè)期刊的審稿人。以上大牛們的嘗試雖然聽(tīng)起來(lái)新潮，但事實(shí)上將AI應(yīng)用于包括芯片在內(nèi)的硬件設(shè)計(jì)已經(jīng)并非一個(gè)新概念。早在2021年時(shí)，谷歌團(tuán)隊(duì)曾發(fā)布論文《A graph placement methodology for fast chip design》，其中就介紹了一種用于芯片版面規(guī)劃的深度強(qiáng)化學(xué)習(xí)方案。通過(guò)該方法自動(dòng)進(jìn)行芯片版面規(guī)劃，所需時(shí)間可以壓縮到6小時(shí)以?xún)?nèi)，且設(shè)計(jì)出來(lái)的芯片在關(guān)鍵指標(biāo)，如功耗、性能以及芯片面積等，均可相媲美人類(lèi)設(shè)計(jì)的產(chǎn)品，甚至有過(guò)之而無(wú)不及。彼時(shí)，該團(tuán)隊(duì)還透露這一方法將會(huì)用在設(shè)計(jì)下一代人工智能加速器上，并且相比人類(lèi)成果而言，可為每代加速器設(shè)計(jì)節(jié)省數(shù)千小時(shí)。除了谷歌之外，英偉達(dá)、三星、新思、Cadence等都在積極探索如何用深度強(qiáng)化學(xué)習(xí)設(shè)計(jì)芯片電路。在英偉達(dá)相關(guān)研究人員發(fā)布的論文《PrefixRL：Optimization of Parallel Prefix Circuits using Deep Reinforcement Learning》中提出了PrefixRL，該方法不僅證明AI可以從頭開(kāi)始設(shè)計(jì)電路，而且比EDA工具設(shè)計(jì)的更小、更快。在英偉達(dá)最新的Hopper架構(gòu)中，就擁有13000個(gè)AI設(shè)計(jì)的電路的實(shí)例。值得補(bǔ)充的是，人工智能三巨頭之一的LeCun最近在連線(xiàn)智源大會(huì)演講中，重申了自己一如既往的觀(guān)點(diǎn)：“基于自監(jiān)督的語(yǔ)言模型無(wú)法獲得關(guān)于真實(shí)世界的知識(shí)”。他繼續(xù)補(bǔ)充道：“人類(lèi)有許多知識(shí)是目前無(wú)法被語(yǔ)言系統(tǒng)所觸達(dá)的”。由此可見(jiàn)，對(duì)話(huà)AI到底能不能參與芯片及硬件設(shè)計(jì)，目前還未達(dá)成共識(shí)。參考資料：

1.《Chip-Chat: Challenges and Opportunities in Conversational Hardware Design》，Jason Blocklove, Siddharth Garg, Ramesh Karri, Hammond Pearce

2.《Chip Chat: Conversations with AI models can help create microprocessing chips, NYU Tandon researchers discover》，NYU TANDON

3.《Exclusive Interview: NYU Team Taps ChatGPT to Design Processor From Scratch》，Jake Hertz

點(diǎn)擊圖片即可跳轉(zhuǎn)報(bào)告鏈接

關(guān)鍵詞：

責(zé)任編輯：