0
| 本文作者： 奕欣 | 2017-11-13 15:59 |
雷鋒網 AI 科技評論按：每年的「雙 11」都掀起了買買買的熱潮，阿里巴巴將這個原本普通的日子賦予了非凡的意義。據雷鋒網 AI 科技評論了解到，今年的雙 11，阿里巴巴再次打破了上一年的交易記錄，3 分鐘 GMV 超百億，一小時 GMV 近 600 億，零點后交易峰值 32.5 萬筆/秒，支付峰值 25.6 萬筆/秒。
在大家如絲般順滑地完成一次次秒殺、搶購和付款過程的背后，是阿里巴巴技術團隊經歷數年時間的系統打磨，技術架構優化所做出的努力。而底層基礎設施服務質量不斷提升、IT 成本增加逐年遞減的演進歷程，都由一個名為「云化戰略」的技術夢想所貫穿起來。
特別是 2017 年雙 11，阿里巴巴首次混合部署了在線服務、離線計算以及公共云，作為全球最大規模的混合云，資源彈性能力再度升級，計算資源效率再一次得到極大提升。
光明頂指揮室合影 via 阿里巴巴
阿里巴巴的云化技術戰略，是阿里集團基礎設施近年來一直在努力的方向。包括混合云、資源 Pouch 容器化、統一調度、存儲計算分離和混部等多項技術的不斷突破和創新。
據阿里巴巴資深技術專家丁宇（花名叔同）介紹，在前幾年完成混合云部署提升資源彈性的基礎上，最近兩年的目標則是提升混合云下的資源效率為主，特別統一調度和容器化兩大重要目標，各 BU 在線系統都陸續進行 Pouch 容器化改造，并統一接入 Sigma 調度系統，直至 2017 雙 11 這一世界級應用場景，最終釋放云化技術架構的巨大價值。
阿里巴巴混部技術視頻介紹：
在大規模的數據中心中，基于自動化調度的集群管理系統已經成為互聯網公司的必然選擇，以提高數據中心的資源利用率。阿里巴巴高級技術專家呂奇（花名瀟謙）介紹道，在以往的雙 11 中，為了保證系統的在線交易服務順利運轉，最初幾年，阿里都是在大促來臨之前大量采購機器儲備計算資源，雙 11 之后資源大量閑置；最近幾年則依靠阿里云彈性資源來應付洪峰流量，在每次雙 11 的前兩個月左右，團隊做容量規劃時采用阿里云的彈性計算資源作為儲備，構建了全球最大的混合云，從而使得資源持有時間也在逐年優化減少，大幅降低成本。
另一個趨勢是，隨著大數據的普及，對實時性要求不高的計算任務集群規模越來越大，甚至超過在線服務。阿里技術團隊也在思考，是否能把計算任務與在線服務進行混合部署，在現有彈性資源基礎上提升集群資源利用率，降低雙 11 資源新增成本。于是從 2015 年開始，阿里巴巴技術團隊嘗試將延遲不敏感的計算任務和延遲敏感的在線服務部署到同一集群上運行，讓在線服務的空閑資源充分被計算任務所使用，以提高集群的整體利用率，也就是混部技術的應用。
于是在今年雙 11，技術團隊除了繼續打造最大的混合云保障計算資源彈性外，還依托阿里云資源彈性能力再次升級，特別是資源混部的能力，使得資源效率大幅提升。基于資源彈性和混部技術的云化戰略又一次為雙 11 帶來成本的降低，未來這樣具有混部能力的混合云彈性能力將通過阿里云開放，讓用戶以更低的成本獲得更強的計算能力，進而幫助整個社會提高資源效率。
「在線服務的容器就像磚塊，而計算任務就像沙子和水。當在線服務壓力小的時候，計算任務就占住那些空隙，把空閑的資源都使用起來，而當在線服務忙的時候，計算任務便立即退出空隙，把資源還給在線服務。」通過混部，系統在平時可以極大地提升服務器資源利用率，而在雙 11 這樣的大促活動需要突增在線服務能力的時候，又可以通過在線服務占用計算任務資源的方式，來頂住短暫的超高峰值壓力。
此外在混部技術實施中，由于在線服務機型與計算任務機型等不同的計算資源要求有比較大的差別，阿里還通過存儲計算分離技術，把資源分為計算節點和存儲節點兩大類，完全統一了異構機型。
在資源隔離技術方面，從服務器的內核層面，對 CPU、內存、IO、網絡等多方面進行優先級的劃分，做到對相關任務的毫秒級自適性調度或限制，以保證高優先級的任務不受影響。
在資源隔離與存儲計算分離兩大技術難題得到突破后，經過 2 年多的試驗論證、架構調整和優化，混部調度方案已走向大規模生產環境，并已服務于電商核心應用和大數據計算服務 ODPS 業務。阿里官方提供的數據顯示，實施混部方案后在線服務集群的日常平均資源利用率從之前的 10% 提高到了現在的 40% 以上，且同時保證在線服務 SLO 目標不受影響。
「所以今年雙 11 云化架構的方案，就是在充分發揮混合云彈性架構的基礎上，通過統一調度和混部，復用計算任務集群資源，1 個小時內迅速建起新的交易站點，分流應對洪峰流量。」叔同介紹道。
在備戰雙 11 階段，云化架構，特別是混部技術的價值顯得尤為重要。在節約資源的同時，也實現了成本的極大降低。叔同向雷鋒網 AI 科技評論表示，「云化架構使多個數據中心像一臺計算機一樣來管理，可以跨多個不同的平臺來調度雙 11 所需要的資源，以極低成本快速拿到服務器，并大幅提升資源利用率，支撐雙 11 的容量準備，今年雙 11 通過云化架構使 IT 資產新增成本下降 50%。實現了真正的彈性資源平滑復用，任務靈活交叉部署。接下來這個能力可以在阿里云平臺輸出，提升產業的 IT 效率?！?/p>
而為了實現便捷調度，統一基礎運維資源的接口，集團在線業務資源的容器化改造就成了云化戰略的另一個重要基礎。
如果用「Pouch」這個詞可能大家相對陌生，但提到 AliDocker，大家想必更熟悉一些。
實際上，AliDocker 是一個過渡階段的技術名詞，在阿里自研容器集成了 Docker 鏡像機制，兼容 Docker API 后，臨時命名為 AliDocker。去年雙 11，在基礎設施方面最大的變化就在于，雙 11 的所有交易核心應用都是在容器中跑起來的，幾十萬容器撐起了雙 11 交易 17.5 萬筆/秒的下單峰值。后續，AliDocker 根據阿里場景進行了大量增強，代碼全部重寫，命名為 Pouch，本意為育兒袋，也隱含著這一容器技術能夠「貼身呵護應用」。截止到今年雙 11，阿里已在集團范圍實現在線服務全部 Pouch 容器化，內部已達到百萬級容器部署規模。
根據阿里巴巴技術專家孫宏亮（花名宏良）的介紹，Pouch 具有如下特點：
1、首先 Pouch 是一種富容器技術，內部應用體驗類似虛擬機，擁有 init 進程，富含多種系統服務，用戶使用 Pouch 時體驗跟在一臺虛擬機當中相同，另外，Pouch 還提供友好的用戶界面；
2、其次通過內核加固與輕量級虛擬機支持，Pouch 提供豐富的安全隔離保障和隔離維度。在 Linux 原生 cgroup 基礎上，具備 diskquota, cache-io, ulimit, net, LLC 等更豐富維度的資源隔離和限制能力；
3、在鏡像分發上，特別是超大規模場景下可通過 P2P 的方式緩解網絡負載；
4、在內核兼容性方面，更加符合企業現狀，考慮到大部分企業 IT 系統內核的升級緩慢、版本較低，最大限度適配現有底層基礎設施，支持 2.6.32 以上版本的 Linux 內核。完善的運行時支持，同時 runlxc,runc,vlinux 等多種運行時；
5、豐富的插件群，內置 alilocal/ceph/alinet/ultron 等插件，極大增強了容器在遠程盤、網絡等方面的功能特性和擴展能力；
6、出眾的性能和穩定性，Pouch 支持多線程執行容器指令，同時鏡像支持鏈式分發、熱更新或通過盤古、ceph 等遠程盤直接掛載，大規模、高頻度的容器操作和更新場景下依舊能夠表現穩定從容。
作為工業界的代表，阿里巴巴也在資源調度與集群管理上做出了技術探索，順利迎戰一年又一年的雙 11。在混部技術方面，為了更好地帶動學術界在科研領域找尋更好的基礎數據，阿里巴巴已對外開放內部核心混部集群的數據?！赶Ｍ麑W術界能在有一定規模的真實生產環境數據中，尋找到資源調度和集群管理更好的模式和方法，能夠指導優化實際生產場景，將機器利用率和服務質量提高到一個更高的水平?！?/strong>
而在 Pouch 容器化改造的道路上，宏良表示，Pouch 在未來將走上完全開源的道路。除了共同制定行業標準，協助容器技術落地外，Pouch 也計劃在雙 11 后的中國開源年會上現場開放源代碼，并經過 5 個月的社區打磨后，于 2018 年 3 月底發布第一個大版本。
雷鋒網 AI 科技評論也期待，阿里巴巴在秉承云化技術戰略的基礎上繼續探索，不斷提升計算資源的利用率，為以雙 11 為代表的全民狂歡提供堅實可靠、靈活高效的 IT 基礎設施，也有信心在未來通過阿里云提升行業資源效率，降低創業成本，實現普惠。
編者注：文中圖片及視頻由阿里巴巴提供，特此感謝。
相關文章：
天貓雙11第一小時：剁手族貢獻570億，阿里工程師抗住25.6萬筆/秒支付峰值
阿里雙11憑什么達到1682億交易額？這些技術支撐或許是原因
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
