在云計(jì)算時(shí)代，我們輸出計(jì)算能力會(huì)像水和電一樣方便。提到云計(jì)算時(shí)，大家可能更多會(huì)想到計(jì)算相關(guān)的云產(chǎn)品，比如云主機(jī)ECS、關(guān)系型數(shù)據(jù)庫RDS、大數(shù)據(jù)處理平臺(tái)ODPS，但其實(shí)負(fù)載均衡在云計(jì)算里面的地位是至關(guān)重要的，因?yàn)樗蔷W(wǎng)絡(luò)流量的入口。互聯(lián)網(wǎng)時(shí)代，計(jì)算資源、服務(wù)器、手機(jī)、電腦、物聯(lián)網(wǎng)設(shè)備需要網(wǎng)絡(luò)去連在一起。云計(jì)算時(shí)代，分布式計(jì)算往往意味著一個(gè)集群里面有很多計(jì)算節(jié)點(diǎn)，怎么保證服務(wù)的請(qǐng)求會(huì)均勻分布在計(jì)算節(jié)點(diǎn)上面同時(shí)對(duì)外提供服務(wù)呢？這是負(fù)載均衡需要解決的一個(gè)課題。
云上的“雙十一”
2015年的“雙十一”第一次有阿里云參與進(jìn)來，是云上的“雙十一”。“雙十一”的阿里云主要有以下幾個(gè)部分：阿里云三大件，即云服務(wù)器、負(fù)載均衡、RDS云數(shù)據(jù)庫，這三大件是云計(jì)算的基礎(chǔ)組件。
SLB負(fù)載均衡的“雙十一”提出了很多問題：如何實(shí)現(xiàn)快速部署？如何提供足夠的性能？如何提供高可用的服務(wù)？如何提供足夠的容量？
負(fù)載均衡是指通過某種負(fù)載分擔(dān)技術(shù)，將外部發(fā)送來的請(qǐng)求均勻分配到對(duì)稱結(jié)構(gòu)中的某一臺(tái)服務(wù)器上，而接收到請(qǐng)求的服務(wù)器獨(dú)立地回應(yīng)客戶的請(qǐng)求。通俗的講，就是當(dāng)訪問請(qǐng)求變多時(shí)，需要更多的服務(wù)器來響應(yīng)請(qǐng)求、對(duì)外提供服務(wù)，這時(shí)候需要有一個(gè)負(fù)載均衡器通過一定規(guī)則把請(qǐng)求分發(fā)在多臺(tái)服務(wù)器上，橫向拓展了服務(wù)的性能。負(fù)載均衡可以通過硬件或者軟件來實(shí)現(xiàn)，傳統(tǒng)的負(fù)載均衡還可以通過DNS實(shí)現(xiàn)，但是DNS的時(shí)效性不好。
硬件負(fù)載均衡器是一個(gè)重要的角色。十年以前，負(fù)載均衡大部分是由負(fù)載均衡器來實(shí)現(xiàn)的，最出名的廠商是F5。負(fù)載均衡器的優(yōu)點(diǎn)是：有專門的團(tuán)隊(duì)來提供開發(fā)和維護(hù)，性能比較好，相對(duì)軟件負(fù)載均衡穩(wěn)定可靠些。缺點(diǎn)是：費(fèi)用昂貴，難以拓展功能和容量，靈活性差。
LVS（Linux Virtual Server）跑在網(wǎng)絡(luò)層的第四層，TCP或者UDP這一層，它是開源的，已集成在Linux內(nèi)核中，其可伸縮，可以彈性部署，非常可靠。
Nginx跑在7層網(wǎng)絡(luò)上面，它是輕量級(jí)的Web服務(wù)器，優(yōu)勢(shì)在于它有很好的網(wǎng)絡(luò)適應(yīng)性，只要后端的路由器可以連通就可以通過Nginx做HTTP的負(fù)載均衡，它支持URL、正則表達(dá)式等高級(jí)邏輯，同樣是開源的。
SLB其實(shí)就是基于前面介紹的LVS和Nginx來實(shí)現(xiàn)的，分為四層負(fù)載均衡和七層負(fù)載均衡。如圖所示，訪問流量會(huì)經(jīng)過公網(wǎng)的入口，進(jìn)入某個(gè)可用區(qū)，每個(gè)可用區(qū)又會(huì)有多個(gè)機(jī)房，每個(gè)機(jī)房又會(huì)有一個(gè)LVS的集群和一個(gè)Tengine的集群來實(shí)現(xiàn)四層負(fù)載均衡和七層負(fù)載均衡。
載均衡技術(shù)已經(jīng)作為了全集團(tuán)的流量入口。第一，它是彈性計(jì)算的流量入口，服務(wù)阿里云的公有云用戶，涵蓋了大中小型網(wǎng)站、游戲客戶、APP服務(wù)端，還有專有云，包括金融和政府部門。第二個(gè)服務(wù)的對(duì)象是云產(chǎn)品，比如RDS、OSS、高防等都用到了SLB的負(fù)載均衡技術(shù)，提供云計(jì)算服務(wù)的流量入口。第三，為集團(tuán)VIP統(tǒng)一接入平臺(tái)提供負(fù)載均衡服務(wù)作為電商平臺(tái)的流量入口。第四，螞蟻金服使用負(fù)載均衡服務(wù)作為支付寶、網(wǎng)上銀行交易平臺(tái)的流量入口。
如何對(duì)負(fù)載均衡進(jìn)行高性能的優(yōu)化？首先是FULLNAT技術(shù)，它是LVS的一個(gè)轉(zhuǎn)發(fā)模式，此優(yōu)化的目的是為了擺脫開源LVS對(duì)網(wǎng)絡(luò)部署的限制；另外的一個(gè)優(yōu)化點(diǎn)是二層轉(zhuǎn)發(fā)，LVS是Linux內(nèi)核里面的一個(gè)模塊，需要經(jīng)過Linux傳統(tǒng)的協(xié)議棧，性能非常低，二層轉(zhuǎn)發(fā)可以通過記錄MAC地址繞過Linux路由表，提升性能；第三個(gè)比較大的優(yōu)化是CPU的并行化，可以讓每個(gè) CPU 并行的處理報(bào)文的轉(zhuǎn)發(fā)；第四個(gè)優(yōu)化是FASTPATH，完全旁路了Linux協(xié)議棧，直接將報(bào)文送到網(wǎng)卡，性能達(dá)到硬件線速；第五個(gè)優(yōu)化是CPU指令的優(yōu)化，由于FULLNAT需要對(duì)報(bào)文做一些修改，我們使用CPU專門對(duì)Crc32定制的計(jì)算指令會(huì)大大優(yōu)化計(jì)算校驗(yàn)的性能；最后一個(gè)優(yōu)化點(diǎn)充分利用了現(xiàn)在服務(wù)器NUMA的特性，NUMA是計(jì)算機(jī)的一種架構(gòu)，在不同的CPU上面訪問特定內(nèi)存或者系統(tǒng)資源會(huì)比較快，通過NUMA的特性來分配本地內(nèi)存可以達(dá)到很大的性能提升。
