什么技術(shù)，讓阿里拿下國(guó)家技術(shù)發(fā)明獎(jiǎng)？

阿里妹導(dǎo)讀：新年伊始，國(guó)家科學(xué)技術(shù)獎(jiǎng)勵(lì)大會(huì)在北京人民大會(huì)堂隆重舉行。阿里云獲得國(guó)家技術(shù)發(fā)明獎(jiǎng)、國(guó)家科技進(jìn)步獎(jiǎng)兩項(xiàng)國(guó)家大獎(jiǎng)。這是互聯(lián)網(wǎng)公司首次同時(shí)榮獲兩大國(guó)家科技獎(jiǎng)，也實(shí)現(xiàn)了互聯(lián)網(wǎng)公司在國(guó)家技術(shù)發(fā)明獎(jiǎng)上零的突破，這意味著阿里巴巴以十年為周期的技術(shù)戰(zhàn)略進(jìn)入收獲期。

此次阿里云聯(lián)合上海交大過(guò)敏意教授團(tuán)隊(duì)開展的“面對(duì)突變型峰值服務(wù)的云計(jì)算關(guān)鍵技術(shù)與系統(tǒng)”獲得國(guó)家技術(shù)發(fā)明二等獎(jiǎng)，背后的相關(guān)技術(shù)源于超大規(guī)模互聯(lián)網(wǎng)電商場(chǎng)景。早在2009年11月11日，阿里巴巴發(fā)起第一屆“雙十一購(gòu)物狂歡節(jié)”，如何在“突變型峰值”下繼續(xù)服務(wù)好行業(yè)新消費(fèi)模式，就成為阿里巴巴面臨的技術(shù)難題。十年后的今天，“突變型峰值”場(chǎng)景不降反增，逐漸成為行業(yè)技術(shù)普遍要解決的，甚至關(guān)乎國(guó)計(jì)民生的問(wèn)題，比如：交通運(yùn)輸域的“春運(yùn)搶票”、電子商務(wù)域的“秒殺”、全民共聚的“春晚”與“跨年”等大型場(chǎng)景。十多年的戰(zhàn)略技術(shù)投入，伴隨著十多年的云計(jì)算成熟之路，阿里云成功解決了“突變型峰值”難題，并通過(guò)普惠行業(yè)的云計(jì)算技術(shù)，將能力輸送分享到行業(yè)的各個(gè)領(lǐng)域。

我們將走進(jìn)獲獎(jiǎng)背后的故事，為大家介紹其中的技術(shù)。

1. 突變峰值的挑戰(zhàn)

首先，我們要搞清楚阿里云“突變型峰值下的云計(jì)算技術(shù)”究竟是什么。

“突變型峰值服務(wù)”通常指：相鄰單位時(shí)間內(nèi)終端用戶請(qǐng)求量顯著增長(zhǎng)的互聯(lián)網(wǎng)服務(wù)?；ヂ?lián)網(wǎng)服務(wù)在峰值突變時(shí)易出現(xiàn)用戶請(qǐng)求響應(yīng)慢、系統(tǒng)崩潰等后果，比如：

2014年某電商網(wǎng)站在“618”購(gòu)物狂歡節(jié)時(shí)，響應(yīng)慢、網(wǎng)站崩潰；

2015年除夕時(shí)某社交app紅包出現(xiàn)無(wú)響應(yīng)、交易失敗等問(wèn)題；

雖然云計(jì)算在面世之初，彈性能力和近乎無(wú)限的資源就是其賣點(diǎn)之一，但是傳統(tǒng)的云計(jì)算技術(shù)面向通用性彈性計(jì)算設(shè)計(jì)，在處理突變型峰值服務(wù)時(shí)，常容易出現(xiàn)以下幾類難題：

“成本高”：應(yīng)對(duì)峰值需求預(yù)備容量，成本不節(jié)約；

“延遲長(zhǎng)”：云中低算力節(jié)點(diǎn)負(fù)載高，調(diào)度不均衡；

“吞吐低”：存儲(chǔ)設(shè)備擴(kuò)展故障劇增，回復(fù)不迅速；

“擴(kuò)展慢”：服務(wù)鏡像倉(cāng)庫(kù)網(wǎng)絡(luò)擁塞，分發(fā)不及時(shí)；

“運(yùn)維難”：專家經(jīng)驗(yàn)演進(jìn)和查詢慢，分析不智能。

阿里云經(jīng)過(guò)多次陣痛和無(wú)數(shù)工程師的心血，解決了以上難題，造就了十年一劍的“基于容器與混合部署的高效資源整合技術(shù)”。

2. 技術(shù)探索的起點(diǎn)

阿里巴巴的容器與混部技術(shù)絕非一日之功，突變峰值的挑戰(zhàn)亦非單一技術(shù)點(diǎn)可以應(yīng)對(duì)的。但萬(wàn)事開頭難，這些技術(shù)突破的起點(diǎn)可以追溯到“雙十一”的誕生初期。

2011年，時(shí)下整個(gè)行業(yè)的虛擬化技術(shù)正發(fā)展得如火如荼，以KVM、XEN以及VMware為代表的虛擬化技術(shù)，幾乎有著一統(tǒng)基礎(chǔ)設(shè)施的大勢(shì)，而阿里巴巴內(nèi)部以多隆、畢玄為首的一個(gè)小團(tuán)隊(duì)，劍走偏鋒，選擇探索一個(gè)代號(hào)為“t4（淘寶第四代計(jì)算引擎）”的項(xiàng)目，t4的技術(shù)理念與如今云原生領(lǐng)域的核心技術(shù)——容器，恰恰如出一轍。每次提到這段歷史，當(dāng)時(shí)阿里的工程師都會(huì)提到兩點(diǎn)：“擴(kuò)展效率”與“資源利用率”。一來(lái)，“雙十一”大促勢(shì)必會(huì)給計(jì)算服務(wù)帶來(lái)巨大的流量壓力，面對(duì)訪問(wèn)峰值時(shí)，如何提供后端系統(tǒng)實(shí)時(shí)的“彈性可擴(kuò)展能力”是一個(gè)技術(shù)難題；二來(lái)，面對(duì)超過(guò)日常情況幾十倍、甚至幾百倍的流量壓力，如何做到提升數(shù)據(jù)中心資源利用率，實(shí)現(xiàn)資源不隨著流量線性增長(zhǎng)？（顯然我們不能因?yàn)橛邪俦兜牧髁繅毫唾?gòu)買100X的服務(wù)器來(lái)解決這個(gè)問(wèn)題）。

提出了正確的問(wèn)題，讓阿里巴巴在容器技術(shù)上的先行一步，從實(shí)際問(wèn)題出發(fā)展開了有針對(duì)性的攻堅(jiān)，為未來(lái)打開了道路。

3. 終成一劍的容器化、微服務(wù)與混部

容器技術(shù)在默默前進(jìn)的同時(shí)，隨著雙11面臨的系統(tǒng)峰值負(fù)載壓力逐年增加，基礎(chǔ)設(shè)施采購(gòu)?fù)度氲某杀疽仓鹉瓿芍笖?shù)上升；同時(shí)由于日常業(yè)務(wù)日均僅有10%左右的利用率，新增購(gòu)置的硬件服務(wù)器資源會(huì)造成巨大浪費(fèi)。為此，在2014年，阿里巴巴開始探索混部技術(shù)，通過(guò)將在線業(yè)務(wù)和離線大數(shù)據(jù)計(jì)算的負(fù)載混部運(yùn)行在共享的集群中，以期可以顯著提高數(shù)據(jù)中心資源利用率。

在線業(yè)務(wù)和離線大數(shù)據(jù)計(jì)算這兩類負(fù)載有多個(gè)可以互補(bǔ)的特點(diǎn)，構(gòu)成了數(shù)據(jù)中心大規(guī)?；觳考夹g(shù)的可行性基礎(chǔ)：

在數(shù)據(jù)中心日常態(tài)下，在線業(yè)務(wù)普遍資源利用率較低，且業(yè)務(wù)峰值壓力時(shí)間短，或固定在大促脈沖波峰時(shí)間，白天壓力較大，且對(duì)延遲和抖動(dòng)敏感；

離線業(yè)務(wù)正好相反，平時(shí)資源使用壓力較高，業(yè)務(wù)資源使用較為固定，主要資源壓力集中在晚上，重視高吞吐，但對(duì)時(shí)延不敏感。

直觀地看，兩類負(fù)載只要能跑在共享的集群中，就可以達(dá)到提升利用率的目的。但我們的目的并非利用率這個(gè)數(shù)字，而是所有負(fù)載是否可以正常運(yùn)行。在集群資源利用率較高時(shí)，在線和離線業(yè)務(wù)會(huì)發(fā)生資源爭(zhēng)搶（CPU、內(nèi)存、網(wǎng)絡(luò)帶寬、IO以及各種微資源）。對(duì)于具有超長(zhǎng)復(fù)雜鏈路的微服務(wù)，在超高集群資源壓力下，任何一個(gè)環(huán)節(jié)的延時(shí)響應(yīng)都會(huì)造成整個(gè)業(yè)務(wù)鏈路對(duì)外暴露的服務(wù)體驗(yàn)下降。如何在混部場(chǎng)景下保證極低的時(shí)延和穩(wěn)定性便成為了歷史難題。

為了全方位、系統(tǒng)性地解決這個(gè)問(wèn)題，從2016年起，阿里巴巴用三年時(shí)間，通過(guò)重建數(shù)據(jù)中心、全量業(yè)務(wù)遷移和集團(tuán)全量業(yè)務(wù)容器化改造，在早期阿里巴巴業(yè)務(wù)的微服務(wù)化的基礎(chǔ)上，形成了基于容器和微服務(wù)的統(tǒng)一混部調(diào)度資源池，促進(jìn)了整體基礎(chǔ)實(shí)施架構(gòu)的演進(jìn)升級(jí)。下面我們簡(jiǎn)單列舉部分有代表意義的措施。

宏觀的資源管理方面，實(shí)現(xiàn)在線業(yè)務(wù)和離線業(yè)務(wù)調(diào)度器的協(xié)同工作，在調(diào)度層為混部負(fù)載之間的隔離建立了良好的技術(shù)架構(gòu)，讓兩個(gè)調(diào)度器在各司其職的同時(shí)能夠最大限度保證在線業(yè)務(wù)的瞬時(shí)需求（保證可以在需要時(shí)及時(shí)拿到資源）和離線業(yè)務(wù)的長(zhǎng)期需求（保證在給定時(shí)間窗口內(nèi)可以獲得足夠完成計(jì)算任務(wù)的資源）。為了降低大規(guī)模部署時(shí)的資源碎片，工程師們還通過(guò)升級(jí)智能調(diào)度算法，解決類似高維度背包問(wèn)題，大大提高了服務(wù)器的資源部署密度，讓同樣數(shù)目的服務(wù)器可以承載更多應(yīng)用同時(shí)正常運(yùn)行，降低成本：若僅考慮CPU資源，在滿足內(nèi)存、網(wǎng)絡(luò)帶寬、磁盤IO、打散、親和等約束的同時(shí)，將CPU分配率從70%（普通貪心算法）提升到95%以上（智能調(diào)度算法）。

微觀的資源隔離方面，阿里工程師深入到操作系統(tǒng)和內(nèi)核當(dāng)中，針對(duì)不同業(yè)務(wù)特點(diǎn)進(jìn)行了多方面的努力。在CPU資源分配方面，工程師深度優(yōu)化了Linux的CFS調(diào)度算法，在排隊(duì)時(shí)間、驅(qū)逐等級(jí)等方面為重要性不同的業(yè)務(wù)設(shè)計(jì)優(yōu)先級(jí)，保證重要任務(wù)在需要時(shí)可以迅速獲取CPU資源，降低業(yè)務(wù)響應(yīng)時(shí)間、提升業(yè)務(wù)穩(wěn)定性。在多核處理器環(huán)境中，通過(guò)Noise Clean等技術(shù)，保證了高優(yōu)先級(jí)任務(wù)可以充分使用自己所在的CPU核（Hyper Thread）的微資源，進(jìn)一步保證業(yè)務(wù)的穩(wěn)定性。CAT、NUMA、JVM冷內(nèi)存回收等技術(shù)也在這里大放異彩。

在超大規(guī)模部署效率方面，阿里云的Dragonfly提供了高效鏡像分發(fā)技術(shù)，實(shí)現(xiàn)了指數(shù)級(jí)別的鏡像分發(fā)時(shí)間的提升，將原本需要數(shù)十分鐘才可以完成的鏡像分發(fā)工作降低到數(shù)秒之內(nèi)完成。Dragonfly現(xiàn)在已經(jīng)是CNCF認(rèn)可的正式項(xiàng)目之一。

上述這些措施也為集團(tuán)全面上云，以及云原生升級(jí)打?qū)嵙嘶A(chǔ)。正是這套完整的資源隔離和彈性共享機(jī)制，使得阿里巴巴的大規(guī)模數(shù)據(jù)中心在提高資源利用率的同時(shí)，穩(wěn)定支持了在線業(yè)務(wù)大促脈沖峰值，最終實(shí)現(xiàn)了大促0增量成本投入。

實(shí)際上，容器化、微服務(wù)、混部這些脫胎于應(yīng)對(duì)“突變型峰值”問(wèn)題的技術(shù)，在大促以外的日常運(yùn)行帶來(lái)了更大的經(jīng)濟(jì)價(jià)值：通過(guò)混部技術(shù)，阿里巴巴數(shù)據(jù)中心的日均資源利用率由10%提高到40%，每年節(jié)省數(shù)十億成本，實(shí)現(xiàn)了歷史性突破。2019年阿里巴巴集團(tuán)基于阿里云智能天然的彈性能力和自研神龍服務(wù)器強(qiáng)大穩(wěn)定的性能，通過(guò)混部集群全面上云，實(shí)現(xiàn)了基于安全容器的新一代云原生混部技術(shù)的架構(gòu)升級(jí)；且通過(guò)基于數(shù)據(jù)智能驅(qū)動(dòng)的運(yùn)維、調(diào)度和管控等創(chuàng)新方法，實(shí)現(xiàn)了自動(dòng)智能化的云原生混部集群管理能力，大大提高了混部集群的業(yè)務(wù)穩(wěn)定性，更進(jìn)一步降低了成本。

4. 走出阿里：從服務(wù)內(nèi)部到普惠社會(huì)

為了無(wú)法計(jì)算的價(jià)值，阿里一直把內(nèi)部多年沉淀下來(lái)的核心技術(shù)逐步推向社會(huì)。一方面通過(guò)開源，比如高效輕量的企業(yè)級(jí)富容器引擎技術(shù)Pouch,大規(guī)模低耗時(shí)的P2P分發(fā)系統(tǒng)Dragonfly；另一方面，通過(guò)阿里云，讓企業(yè)可以非常簡(jiǎn)單的使用全球最具領(lǐng)先的企級(jí)容器技術(shù)，并享受到云時(shí)代帶來(lái)的技術(shù)紅利。根據(jù)Forrester的第三方報(bào)告，阿里云的容器服務(wù)能力，中國(guó)排名第一。

應(yīng)對(duì)突變型峰值的能力也不例外。阿里云如何通過(guò)阿里的容器技術(shù)來(lái)幫助業(yè)界的呢？下面我們就來(lái)講兩種在阿里云上常見(jiàn)的峰值問(wèn)題的解決方案。

4.1 云上電商：讓秒殺活動(dòng)不再被秒殺

電商場(chǎng)景下，它的特點(diǎn)是短時(shí)間內(nèi)峰值較大，而且活動(dòng)比較頻繁。在傳統(tǒng)情況下，因?yàn)閺椥孕什桓?，所以擴(kuò)容的資源平時(shí)就預(yù)置并長(zhǎng)期處于就緒狀態(tài)，費(fèi)用開銷太大，另外擴(kuò)容的資源需要根據(jù)活動(dòng)的時(shí)間來(lái)預(yù)置，活動(dòng)越密集運(yùn)維工作量越大，頻繁的進(jìn)行擴(kuò)縮容，手工介入越多越容易出錯(cuò)，擴(kuò)縮的時(shí)間長(zhǎng)難度大。

在非業(yè)務(wù)峰值時(shí)，保持少量節(jié)點(diǎn)維持日常業(yè)務(wù)，通過(guò)業(yè)務(wù)容器化，業(yè)務(wù)和運(yùn)行環(huán)境統(tǒng)一進(jìn)容器鏡像，極大的簡(jiǎn)化部署，并且由K8s來(lái)保障業(yè)務(wù)故障自愈高可靠，彈性伸縮等能力，容器業(yè)務(wù)的全生命周期管理都交給K8s，簡(jiǎn)化運(yùn)維工作量。當(dāng)業(yè)務(wù)峰值，原有工作節(jié)點(diǎn)已不能滿足當(dāng)前的業(yè)務(wù)需求，需在大促峰值前快速擴(kuò)容工作節(jié)點(diǎn)的數(shù)量。通過(guò)已對(duì)接彈性伸縮服務(wù)ESS的能力，集群具備工作節(jié)點(diǎn)自動(dòng)伸縮能力，我們可提前配置好自動(dòng)伸縮的規(guī)則，而容器化的業(yè)務(wù)會(huì)在工作節(jié)點(diǎn)就緒后，迅速自動(dòng)擴(kuò)容并調(diào)度到可用的工作節(jié)點(diǎn)上去，自動(dòng)配置好網(wǎng)絡(luò)，并由K8s來(lái)保障應(yīng)用的高可用。當(dāng)業(yè)務(wù)峰值結(jié)束后，K8s會(huì)根據(jù)HPA（horizontal pod autoscaler）的能力將業(yè)務(wù)進(jìn)行自動(dòng)縮容，業(yè)務(wù)縮容后，集群自動(dòng)伸縮規(guī)則會(huì)縮容釋放工作節(jié)點(diǎn)。

4.2 基因計(jì)算：讓典型計(jì)算類型任務(wù)也受益于更好的彈性和混合云能力

基因行業(yè)中的基因檢測(cè)計(jì)算也是一種典型的計(jì)算場(chǎng)景，雖然不像前面的秒殺、雙11那樣有突發(fā)峰值的挑戰(zhàn)，但是同樣也得益于容器突發(fā)彈性場(chǎng)景所錘煉出來(lái)的彈性性能和成本優(yōu)勢(shì)。目前，國(guó)內(nèi)70%以上的基因測(cè)序公司和研究機(jī)構(gòu)都在使用阿里云的服務(wù)。在傳統(tǒng)的模式下，由于線下資源的限制，需要幾天甚至更長(zhǎng)的時(shí)間才能出得出結(jié)果。如果要提升計(jì)算效率，那必須要持有大量的計(jì)算資源，但這個(gè)檢測(cè)工作又不是每時(shí)每刻都需要運(yùn)行的。如果采用混合云容器彈性計(jì)算的方式，那么這個(gè)問(wèn)題就能迎刃而解。當(dāng)線下的數(shù)據(jù)采集完成時(shí)，通過(guò)混合云，把數(shù)據(jù)傳遞到云端，并通過(guò)容器化的彈性能力，在分鐘級(jí)內(nèi)，自動(dòng)快速拉起成百上千個(gè)檢測(cè)程序，從而快速完成計(jì)算。而當(dāng)檢測(cè)完成時(shí)，又在分鐘級(jí)內(nèi)快速銷毀資源，極大地降低了資源使用的成本，充分利用了云的能力。除了成本的降低，由于有了阿里云中強(qiáng)大的計(jì)算能力作為依托，僅用15分鐘，即可完成一個(gè)科學(xué)界普遍需要120個(gè)小時(shí)才能完成的高精度個(gè)人全基因組測(cè)序全流程。

容器已經(jīng)成為最流行的云的構(gòu)建方式和最佳的應(yīng)用運(yùn)行環(huán)境。阿里巴巴自身是容器的重度用戶，加上在公有云中通過(guò)服務(wù)海量客戶積累的經(jīng)驗(yàn)，配合阿里云中彈性計(jì)算ECS、神龍服務(wù)器、ESS、各種中間件和大數(shù)據(jù)服務(wù)能力等，讓阿里云在公有云、專有云或混合云，成為企業(yè)級(jí)業(yè)務(wù)上云和數(shù)字化改造的最佳實(shí)踐。

4.3 12306的故事：幫助每個(gè)回家的人

12306是我們每個(gè)人都熟悉的應(yīng)用，它是一個(gè)以售票業(yè)務(wù)為核心的交易系統(tǒng)，用戶在購(gòu)票之前需要做余票查詢，尤其是在十一、春運(yùn)這樣的特殊情景下，12306必須提供海量數(shù)據(jù)查詢服務(wù)，是系統(tǒng)中最重要的一個(gè)環(huán)節(jié)。在傳統(tǒng)IT解決方案里，為了每年一次的春運(yùn)，需要按照峰值采購(gòu)大量硬件設(shè)備；春運(yùn)后，這些設(shè)備會(huì)處于空閑狀態(tài)，造成巨大資源浪費(fèi)。另一個(gè)致命問(wèn)題是，按照傳統(tǒng)方案，如果春運(yùn)峰值流量超出預(yù)期，服務(wù)將面臨癱瘓，而大規(guī)模服務(wù)器的采購(gòu)、上架、部署調(diào)試至少需要耗費(fèi)一兩個(gè)月時(shí)間，是完全來(lái)不及的。在這種情況下，將業(yè)務(wù)上云并且充分利用阿里云提供的彈性能力，可以將成本優(yōu)勢(shì)發(fā)揮到極致，同時(shí)完全滿足業(yè)務(wù)的需求。從十一到春運(yùn)這些旅游出行高峰時(shí)刻，阿里云上的余票查詢業(yè)務(wù)每次擴(kuò)容的資源交付在分鐘級(jí)就能完成，并且可以做到在流量洪峰過(guò)后將資源進(jìn)行及時(shí)的釋放，大大降低成本的同時(shí)，也讓每個(gè)人都能體會(huì)到流暢的購(gòu)票體驗(yàn)。

5、 總結(jié)

突變型峰值服務(wù)中的云計(jì)算技術(shù)突破，最初源自阿里巴巴自身的電商特點(diǎn)和阿里工程師們勇于面對(duì)困難的精神，也凝結(jié)了阿里工程師和國(guó)內(nèi)高校的高水平團(tuán)隊(duì)的心血。隨著相關(guān)技術(shù)難點(diǎn)的陸續(xù)攻克，我們發(fā)現(xiàn)在當(dāng)前日新月異的發(fā)展大潮中，我們的技術(shù)可以幫助社會(huì)解決更多、更加重要的問(wèn)題，對(duì)此我們深感自豪。這里我們引用鄔江興院士對(duì)本項(xiàng)目的評(píng)價(jià)作為總結(jié)：

“‘面對(duì)突變型峰值服務(wù)的云計(jì)算關(guān)鍵技術(shù)與系統(tǒng)’體現(xiàn)了我國(guó)科技創(chuàng)新的一種特有模式：超大規(guī)模市場(chǎng)中蘊(yùn)含的巨大技術(shù)挑戰(zhàn)，讓很多只有通過(guò)大規(guī)模應(yīng)用的經(jīng)驗(yàn)及教訓(xùn)反復(fù)迭代錘煉的技術(shù)能夠百煉成鋼，而且量變的過(guò)程必然會(huì)伴隨質(zhì)的飛躍，期間無(wú)疑會(huì)內(nèi)生出不竭的科技創(chuàng)新動(dòng)力。過(guò)去大家可能對(duì)互聯(lián)網(wǎng)企業(yè)有偏見(jiàn)，覺(jué)得他們沒(méi)有硬件廠商技術(shù)含量高，但能滿足全球最大規(guī)模用戶群的需求，背后一定是有全球最頂尖的技術(shù)能力支撐的?！?/p>