計(jì)算機(jī)架構(gòu)未來面臨的挑戰(zhàn)
過去10年，很多計(jì)算機(jī)體系結(jié)構(gòu)研究學(xué)者都在感嘆體系結(jié)構(gòu)的研究步履維艱，計(jì)算機(jī)架構(gòu)未來面臨的挑戰(zhàn)，又會有哪些呢，我們一起來看看!
專用化的鴻溝：硬件設(shè)計(jì)大眾化
為了延續(xù)計(jì)算機(jī)工業(yè)創(chuàng)新的光榮歷史，開發(fā)硬件必須像開發(fā)軟件一樣簡單、便宜和靈活。
廣泛和新興的看法一直認(rèn)為，經(jīng)典的CMOS工藝縮放路線——基于晶體管越來越小、集成度越來越高的摩爾定律的技術(shù)引擎——將在不到3代半導(dǎo)體工藝(6~9年)之后面臨終結(jié)。而且，登納德縮放——隨著CMOS的集成度提高但能夠使每個(gè)芯片的功耗保持不變的技術(shù)趨勢——也將在21世紀(jì)中葉終結(jié)，這將導(dǎo)致處理器設(shè)計(jì)的巨大變革：運(yùn)算能效已經(jīng)取代面積效率或峰值邏輯門開關(guān)，成為最重要的一項(xiàng)限制峰值性能的設(shè)計(jì)約束。
從近期工業(yè)界的動向中可以窺見到經(jīng)典工藝縮放路線即將到來的后果。例如，英特爾已經(jīng)放棄了長期奉行的“工藝年-構(gòu)架年(tick-tock)”開發(fā)模式，從原先每代工藝推出兩款主要芯片設(shè)計(jì)，現(xiàn)已改為三款。這個(gè)改變意在通過維系“茍延殘喘”的摩爾定律從而延長每代產(chǎn)品的市場壽命。更有甚者，美國半導(dǎo)體行業(yè)協(xié)會(Semiconductor Industry Association)也已放棄維持了數(shù)十年、每兩年更新一次的國際半導(dǎo)體技術(shù)路線圖(International Technology Roadmap for Semiconductors, ITRS)的老傳統(tǒng)，這一技術(shù)文檔為整個(gè)半導(dǎo)體產(chǎn)業(yè)界協(xié)調(diào)技術(shù)、制造與系統(tǒng)開發(fā)提供了指導(dǎo)。由于沒有明確的方向維系縮放路線，ITRS的價(jià)值也在逐漸衰退。
然而，新應(yīng)用的不斷涌現(xiàn)，對計(jì)算能力的需求在日益增長。其中最突出的就是那些由大規(guī)模機(jī)器學(xué)習(xí)所驅(qū)動的、從前難以想象的應(yīng)用：從圖像和語音識別到無人駕駛汽車，再到擊敗圍棋頂尖高手。同樣可以看到對視覺數(shù)據(jù)處理和理解的需求的爆發(fā)式增長，有些前瞻性應(yīng)用或許要求為世界上每個(gè)人提供每秒千兆像素級的運(yùn)算能力。
過往計(jì)算技術(shù)的進(jìn)步主要來源于對通用計(jì)算設(shè)計(jì)的巨大投入，而這些設(shè)計(jì)依賴于經(jīng)典的縮放路線，并且完全由少數(shù)幾家處理器制造商完成。得益于這些通用設(shè)計(jì)的計(jì)算機(jī)應(yīng)用綜合市場的龐大體量，足以分?jǐn)傔@些廠商的大量投入。
隨著傳統(tǒng)縮放路線的衰落，只通過改進(jìn)少數(shù)通用計(jì)算平臺將無法繼續(xù)滿足新興應(yīng)用對計(jì)算性能的需求。相反，在過去的5~10年里，在一些計(jì)算密集型應(yīng)用領(lǐng)域，一種新的性能優(yōu)化手段策略已經(jīng)興起——專用硬件設(shè)計(jì)。與在通用處理芯片上運(yùn)行軟件的方案相比，專用硬件方案(如專用集成電路)單位操作上可提高能效10000倍。此能效的提升對于新興的物聯(lián)網(wǎng)的豐富應(yīng)用是至關(guān)重要的。專用化已經(jīng)在圖形渲染和視頻播放等方面取得了巨大成功。機(jī)器學(xué)習(xí)應(yīng)用也開始取得商業(yè)成功。實(shí)際上，計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域的科研人員已經(jīng)認(rèn)識到專用化的重要性并投身其研究：2016年體系結(jié)構(gòu)領(lǐng)域三大頂級會議(ISCA、HPCA、MICRO)共收錄論文175篇，其中38篇是關(guān)于圖形處理器(GPU)和專用加速器設(shè)計(jì)的，還有17篇是關(guān)于機(jī)器學(xué)習(xí)專用化設(shè)計(jì)的。
然而，迄今為止，專用設(shè)計(jì)的商業(yè)化的成功，只限于擁有巨大市場的應(yīng)用(例如視頻游戲、移動視頻播放等)，值得像通用處理器廠商那樣投資。以上市時(shí)間和金錢來衡量，設(shè)計(jì)和制造專用硬件的成本極高，只有極少數(shù)的設(shè)計(jì)可以在這樣巨大的市場逐步攤銷。
為了繼續(xù)有效創(chuàng)新的周期，關(guān)鍵是排除專用系統(tǒng)設(shè)計(jì)的障礙，從而在所有應(yīng)用中體現(xiàn)出專用化在能效方面的優(yōu)勢。我們的愿景是“大眾化”硬件設(shè)計(jì)，也就是讓硬件設(shè)計(jì)變得像軟件設(shè)計(jì)那樣敏捷、便宜和開放。軟件開發(fā)團(tuán)隊(duì)可以利用豐富的、擁有現(xiàn)成的可重用部件的生態(tài)系統(tǒng)(通常是免費(fèi)和開源的)，使用高級語言加速提高單個(gè)開發(fā)者的能力，并依靠強(qiáng)大和自動化的程序分析、綜合、測試和調(diào)試來保證品質(zhì)。
盡管經(jīng)過了幾十年的投入，計(jì)算機(jī)輔助設(shè)計(jì)仍未能達(dá)到一個(gè)小開發(fā)團(tuán)隊(duì)即可進(jìn)行硬件設(shè)計(jì)的水平。硬件系統(tǒng)設(shè)計(jì)者需要更好的工具，提高在硬件描述方面的能力，更快的性能評估手段，更敏捷的原型化方法和更嚴(yán)謹(jǐn)?shù)能?硬件協(xié)同設(shè)計(jì)驗(yàn)證方法。工具鏈要成熟，可以跨越多個(gè)硬件層次，從通用可編程處理核到大規(guī)�？删幊踢壿嬯嚵�、可編程加速器以及專用集成電路，從而能夠輕易實(shí)現(xiàn)重定位。更好的抽象描述對于硬件的組件化和可重用是必需的，這些抽象可以是以可綜合的知識產(chǎn)權(quán)(IP)模塊的形式，甚至可以是以物理芯片或芯片組的形式存在，在制造時(shí)可便宜地集成到系統(tǒng)中。對于體系結(jié)構(gòu)領(lǐng)域的研究者來說，這是一次努力彌補(bǔ)通用和專用系統(tǒng)之間的鴻溝的機(jī)會，并開發(fā)出一系列工具和框架平臺，使大眾化硬件設(shè)計(jì)成為現(xiàn)實(shí)。
云計(jì)算是對體系結(jié)構(gòu)創(chuàng)新的抽象
利用規(guī)�；吞摂M化技術(shù)，云計(jì)算提供商可以透明和低成本地提供硬件創(chuàng)新，即使最小的客戶也是如此。
云計(jì)算對傳統(tǒng)商業(yè)模式的顛覆已被廣泛認(rèn)可。云計(jì)算能夠促使新興企業(yè)的規(guī)模發(fā)展遠(yuǎn)快于傳統(tǒng)的基礎(chǔ)設(shè)施投資。新產(chǎn)品的用戶可以在短短幾天時(shí)間內(nèi)從幾百個(gè)增長到幾百萬個(gè)，2016年7月迅速風(fēng)靡全球的手機(jī)游戲“口袋妖怪”(Pokemon Go)就是很好的例證。但是，云計(jì)算也打破了傳統(tǒng)財(cái)富500強(qiáng)的商業(yè)模式，因?yàn)橐郧皳碛凶约旱腎T基礎(chǔ)設(shè)施的企業(yè)實(shí)現(xiàn)了出租云資源帶來的成本收益。
云計(jì)算提供商利用規(guī)�；粌H是為了自身業(yè)務(wù)，也是為了投資IT的客戶的利益。因此，這些提供商往往會發(fā)現(xiàn)，進(jìn)行巨大的、非重復(fù)性的工程投資是合算的，例如，在內(nèi)部開發(fā)全新的軟件和硬件系統(tǒng)，而不依賴第三方產(chǎn)品供應(yīng)商。
我們開始看到出現(xiàn)了使得云計(jì)算實(shí)現(xiàn)前所未有的性能的專用計(jì)算機(jī)架構(gòu)。無論是高端的超級計(jì)算機(jī)，還是商業(yè)的云端產(chǎn)品，GPU變得無處不在。微軟公司公開披露了Catapult項(xiàng)目，該項(xiàng)目致力于整合現(xiàn)場可編程門陣列(FPGA)以促進(jìn)其數(shù)據(jù)中心的計(jì)算專用化。Cavium公司已經(jīng)發(fā)布了一個(gè)互聯(lián)網(wǎng)服務(wù)應(yīng)用的專用架構(gòu)ThunderX。谷歌公司公布了張量處理器TPU，這是一個(gè)面向機(jī)器學(xué)習(xí)應(yīng)用的專用協(xié)處理器。上述項(xiàng)目表明，已經(jīng)有很多經(jīng)濟(jì)原因促使云計(jì)算提供商投資專用計(jì)算機(jī)架構(gòu)。
對學(xué)術(shù)界的計(jì)算機(jī)體系結(jié)構(gòu)研究者來說，現(xiàn)在是抓住這個(gè)機(jī)遇并展示跨層專用化愿景的時(shí)機(jī)。例如，專用集成電路云(ASIC Clouds)項(xiàng)目展示了如何協(xié)同開發(fā)大量高度專用的處理器，從而讓關(guān)鍵應(yīng)用得到明顯加速。
云計(jì)算模型的第二個(gè)關(guān)鍵優(yōu)勢是虛擬化。虛擬化這類技術(shù)將新的硬件和軟件創(chuàng)新透明地引入現(xiàn)有的軟件系統(tǒng)。虛擬化使得云提供商可以為了更快、更便宜的技術(shù)替換處理器、存儲器和網(wǎng)絡(luò)部件，而不必與消費(fèi)者溝通協(xié)調(diào)。虛擬化也促成了資源的超額認(rèn)購——在消費(fèi)者對特定資源的需求具有時(shí)變、碎片化特征的情況下，在消費(fèi)者之間進(jìn)行透明的資源共享。超額訂購對云計(jì)算的成本結(jié)構(gòu)很重要，和單獨(dú)的消費(fèi)者購買專屬資源比較，它使得云供應(yīng)商以極低的價(jià)格提供IT資源。
學(xué)術(shù)界的計(jì)算機(jī)體系結(jié)構(gòu)研究長期以來對實(shí)現(xiàn)虛擬化起到重要作用，例如威睿(VMWare)這個(gè)最被認(rèn)可的虛擬化技術(shù)供應(yīng)商，就是從一個(gè)大學(xué)研究計(jì)劃發(fā)起的。學(xué)術(shù)界的體系結(jié)構(gòu)研究者必須繼續(xù)在開發(fā)虛擬化技術(shù)中扮演關(guān)鍵角色，來縮短虛擬化性能與裸機(jī)性能之間的差距。此外，體系結(jié)構(gòu)研究者必須開發(fā)新型的虛擬化抽象，從而實(shí)現(xiàn)對專用硬件單元，比如Catapult、TPU和ASIC Clouds等的透明使用和超額訂購。
垂直化趨勢
三維(3D)集成提供了一個(gè)新的可擴(kuò)展維度。
摩爾定律終結(jié)的重要后果是使得芯片設(shè)計(jì)師再也不能“無償?shù)亍泵?8個(gè)月將自己設(shè)計(jì)中的晶體管數(shù)量提高一倍。與此同時(shí)，最近幾代芯片中，相對于計(jì)算，驅(qū)動全局總線開銷的增長很快，因此不斷提升了互聯(lián)在芯片功耗預(yù)算中所占比例。
3D集成為芯片設(shè)計(jì)提供了一個(gè)新的擴(kuò)展維度，盡管摩爾定律終結(jié)了，仍然可以在一個(gè)單系統(tǒng)上集成更多的晶體管，可以從3個(gè)維度縮減互聯(lián)開銷，并實(shí)現(xiàn)各種混合制造技術(shù)的緊密集成。因此，3D集成使3D結(jié)構(gòu)內(nèi)部的系統(tǒng)組件具有更高的能效、更寬的帶寬和更低的延遲。
從架構(gòu)上來講，3D集成也說明平衡系統(tǒng)的計(jì)算必須盡量靠近數(shù)據(jù)。盡管閃存和其他內(nèi)存設(shè)備早已通過3D方式進(jìn)行容量擴(kuò)展，但將內(nèi)存設(shè)備與高性能邏輯集成的嘗試才剛剛開始。例如，美光(Micron)公司推出的混合內(nèi)存立方體(Hybrid Memory Cube)，實(shí)現(xiàn)了快速邏輯和密度內(nèi)存的3D堆疊，為學(xué)術(shù)界重新刮起“近數(shù)據(jù)計(jì)算”(near-data computing, NDC)和“內(nèi)存處理”(processing-in-memory, PIM)架構(gòu)的學(xué)術(shù)研究風(fēng)潮。盡管這個(gè)研究問題早在20年前已相當(dāng)流行，但受限于當(dāng)時(shí)的工藝技術(shù)，PIM架構(gòu)并沒有進(jìn)一步實(shí)現(xiàn)商業(yè)應(yīng)用。近幾年，隨著實(shí)用芯片堆疊和多技術(shù)垂直集成技術(shù)的出現(xiàn)，這些架構(gòu)成為提升擴(kuò)展性的有效途徑。
盡管3D集成為芯片設(shè)計(jì)賦予了新能力，但同時(shí)也在實(shí)現(xiàn)高可靠性和高收益方面提出許多復(fù)雜的新挑戰(zhàn)，其中高可靠性和高收益可以通過架構(gòu)支持解決。比如，3D集成內(nèi)存啟發(fā)我們重新思考傳統(tǒng)內(nèi)存和存儲架構(gòu)。3D集成也對功率和溫度管理引入了全新的問題，這是由于傳統(tǒng)的散熱技術(shù)不足以應(yīng)對高性能集成設(shè)計(jì)帶來的功率密度提升。這些問題和挑戰(zhàn)開啟了全新的'、豐富的體系架構(gòu)創(chuàng)新的可能性。
體系結(jié)構(gòu)“更接近物理層”
經(jīng)典縮放定律的終結(jié)，給計(jì)算機(jī)底層架構(gòu)帶來更多的本質(zhì)變化。
新的器件技術(shù)和電路設(shè)計(jì)技術(shù)歷來引發(fā)新結(jié)構(gòu)的產(chǎn)生。未來有若干可能的情況給計(jì)算機(jī)體系結(jié)構(gòu)帶來深遠(yuǎn)的影響。這些情況分為兩大類。第一類是通過更有效的信息編碼，更接近模擬信號，來更好地利用目前的材料和器件。對模擬計(jì)算的關(guān)注再次興起，因?yàn)樗苓m合需要控制準(zhǔn)確度的應(yīng)用。而且和數(shù)字信息處理相比，模擬信息處理通過把信息更密集地映射到模擬信號上，以及更高效的功能單元，能夠保證功耗更低。然而，這類計(jì)算更易受到噪聲影響，需要有新的容錯(cuò)方法才能實(shí)際應(yīng)用。
第二類機(jī)會是“新”材料的使用，包括更高效的交換、更密集的布局和獨(dú)特的計(jì)算模型。下面我們列出一些值得體系結(jié)構(gòu)領(lǐng)域注意的努力方向。
新的存儲器件。幾十年來，數(shù)據(jù)一直存儲在動態(tài)隨機(jī)存取存儲器(DRAM)、閃存或磁盤上。但是，新的存儲器件(例如Intel/Micron 3D XPoint存儲器)正在進(jìn)入商用化，與傳統(tǒng)存儲層次部件相比，這些新器件在開銷、密度、延遲、吞吐量、可靠性和壽命等方面完全不同。
碳納米管�；谔技{米管(CNTs)的電子學(xué)研究持續(xù)取得顯著進(jìn)展，最近的結(jié)果表明，只使用碳納米管搭建出一個(gè)簡單的微處理器是可行的。碳納米管可以保證更高的密度和更低的功耗，并且可用在三維基底上。這使得碳納米管成為體系結(jié)構(gòu)方案是非�？尚械摹�
量子計(jì)算。量子計(jì)算利用量子力學(xué)現(xiàn)象存儲和操縱信息。它的主要優(yōu)點(diǎn)是，“疊加”量子現(xiàn)象有效地允許同時(shí)表達(dá)0和1狀態(tài)，這使得量子計(jì)算實(shí)現(xiàn)選擇算法時(shí)比傳統(tǒng)計(jì)算有了指數(shù)級加速。
超導(dǎo)邏輯。量子計(jì)算的一個(gè)姊妹方向是超導(dǎo)邏輯，使用約瑟夫森結(jié)等超導(dǎo)器件的系統(tǒng)，能夠提供“免費(fèi)”的通信，因?yàn)樵诔瑢?dǎo)線上傳輸信號幾乎不消耗能量。另一方面，在數(shù)據(jù)操作上比傳輸數(shù)據(jù)有更高的能耗。這些權(quán)衡與CMOS硅電路正好相反，在CMOS電路上大部分能量消耗在通信而不是數(shù)據(jù)操作。
微軟、谷歌、IBM和I-ARPA等公司和機(jī)構(gòu)都已經(jīng)宣布在量子計(jì)算和超導(dǎo)邏輯進(jìn)行了大量投資。我們認(rèn)為量子計(jì)算機(jī)結(jié)構(gòu)得到再次關(guān)注的時(shí)機(jī)是成熟的，量子計(jì)算在十年內(nèi)可能會產(chǎn)生實(shí)際影響。
借鑒生物學(xué)。利用生物學(xué)基底做計(jì)算很早就想到了，有可能實(shí)現(xiàn)。DNA計(jì)算已經(jīng)演示了簡單的邏輯操作，最近的許多結(jié)果也表明DNA作為檔案存儲器和納米結(jié)構(gòu)自組裝的數(shù)字媒介具備潛力。對研究人員來說，生物科技產(chǎn)業(yè)推動的DNA操縱技術(shù)所取得的進(jìn)展使得體系結(jié)構(gòu)研究人員認(rèn)為，使用生物是可行的。除了DNA，還有諸如蛋白質(zhì)等其他生物分子能夠用于計(jì)算，這些生物分子工程在過去十年進(jìn)步顯著。
機(jī)器學(xué)習(xí)作為核心負(fù)載
機(jī)器學(xué)習(xí)正在改變我們實(shí)現(xiàn)應(yīng)用的方式。硬件性能提升使得機(jī)器學(xué)習(xí)應(yīng)用于大數(shù)據(jù)成為可能。
機(jī)器學(xué)習(xí)在過去十年中取得了長足的進(jìn)步，產(chǎn)生了很多長期以來只存在于科幻小說里的應(yīng)用�？梢哉f，這一進(jìn)步在很大程度上受益于豐富的數(shù)據(jù)和強(qiáng)大的計(jì)算能力。大規(guī)模機(jī)器學(xué)習(xí)應(yīng)用也促進(jìn)了存儲系統(tǒng)和專用硬件(GPU, TPU)等的設(shè)計(jì)。
盡管目前的重點(diǎn)是支持云端的機(jī)器學(xué)習(xí)，但是在諸如智能手機(jī)和超低功耗傳感器節(jié)點(diǎn)等低功耗設(shè)備中支持機(jī)器學(xué)習(xí)應(yīng)用也有非常重要的機(jī)會。幸運(yùn)的是，許多機(jī)器學(xué)習(xí)內(nèi)核具有相對規(guī)整的結(jié)構(gòu)，能夠在準(zhǔn)確率和資源需求之間進(jìn)行權(quán)衡。因此，它們適用于專用硬件、重構(gòu)和近似計(jì)算等技術(shù)，為體系結(jié)構(gòu)的創(chuàng)新開啟了新空間。
機(jī)器學(xué)習(xí)從業(yè)者在計(jì)算上花費(fèi)相當(dāng)長的時(shí)間用于模型訓(xùn)練。即便使用超大規(guī)模的計(jì)算集群，花費(fèi)一星期到一個(gè)月來訓(xùn)練一個(gè)模型也是普遍的。雖然這樣的計(jì)算資源投資能夠分?jǐn)偟綄δＰ投啻握{(diào)用，但模型較長的更新迭代周期可能會對用戶體驗(yàn)產(chǎn)生負(fù)面影響。因此，對體系結(jié)構(gòu)研究人員來說，設(shè)計(jì)能更好地支持機(jī)器學(xué)習(xí)模型訓(xùn)練的系統(tǒng)是一個(gè)新的機(jī)遇。
【計(jì)算機(jī)架構(gòu)未來面臨的挑戰(zhàn)】相關(guān)文章：
個(gè)體化檢驗(yàn)診斷面臨的挑戰(zhàn)06-02
中小企業(yè)資本運(yùn)營面臨的挑戰(zhàn)06-28
軟件架構(gòu)是什么-什么是系統(tǒng)架構(gòu)05-16