一、可伸縮網(wǎng)絡(luò)服務(wù)的設(shè)計(jì)與實(shí)現(xiàn)

1、         網(wǎng)絡(luò)服務(wù)的需求

隨著Internet的飛速發(fā)展和對(duì)我們生活的深入影響，互聯(lián)網(wǎng)的用戶(hù)數(shù)和網(wǎng)絡(luò)流量正以幾何級(jí)數(shù)增長(zhǎng)，這對(duì)網(wǎng)絡(luò)服務(wù)的可伸縮性 提出很高的要求。另外， 隨著電子商務(wù)等關(guān)鍵性應(yīng)用在網(wǎng)上運(yùn)行，任何例外的服務(wù)中斷都將造成不可估量的損失，服務(wù)的高可用性也越來(lái)越重要。所以，對(duì)用硬件和軟件方法實(shí)現(xiàn)高可伸縮、 高可用網(wǎng)絡(luò)服務(wù)的需求不斷增長(zhǎng)，這種需求可以歸結(jié)以下幾點(diǎn)：

• 可伸縮性（Scalability），當(dāng)服務(wù)的負(fù)載增長(zhǎng)時(shí)，系統(tǒng)能被擴(kuò)展來(lái)滿(mǎn)足需求，且不降低服務(wù)質(zhì)量。

• 高可用性（Availability），盡管部分硬件和軟件會(huì)發(fā)生故障，整個(gè)系統(tǒng)的服務(wù)必須是每天24小時(shí)每星期7天可用的。

• 可管理性（Manageability），整個(gè)系統(tǒng)可能在物理上很大，但應(yīng)該容易管理。

• 價(jià)格有效性（Cost-effectiveness），整個(gè)系統(tǒng)實(shí)現(xiàn)是經(jīng)濟(jì)的、易支付的。

單服務(wù)器顯然不能處理不斷增長(zhǎng)的負(fù)載。這種服務(wù)器升級(jí)方法有下列不足：

一是升級(jí)過(guò)程繁瑣，機(jī)器切換會(huì)使服務(wù)暫時(shí)中斷，并造成原有計(jì)算資源的浪費(fèi)；

二是越往高端的服務(wù)器，所花費(fèi)的代價(jià)越大；

三是一旦該服務(wù)器或應(yīng)用軟件失效，會(huì)導(dǎo)致整個(gè)服務(wù)的中斷。

針對(duì)上述需求，我們給出了基于IP層和基于內(nèi)容請(qǐng)求分發(fā)的負(fù)載平衡調(diào)度解決方法，并在Linux內(nèi)核中實(shí)現(xiàn)了這些方法，將一組服務(wù)器構(gòu)成一個(gè)實(shí)現(xiàn)可 伸縮的、高可用網(wǎng)絡(luò)服務(wù)的服務(wù)器集群，我們稱(chēng)之為L(zhǎng)inux虛擬服務(wù)器（Linux Virtual Server）。在LVS集群中，使得服務(wù)器集群的結(jié)構(gòu)對(duì)客戶(hù)是透明的，客戶(hù)訪問(wèn)集群提供的網(wǎng)絡(luò)服務(wù)就像訪問(wèn)一臺(tái)高性能、高可用的服務(wù)器一樣�？蛻�(hù)程序不 受服務(wù)器集群的影響不需作任何修改。系統(tǒng)的伸縮性通過(guò)在服務(wù)機(jī)群中透明地加入和刪除一個(gè)節(jié)點(diǎn)來(lái)達(dá)到，通過(guò)檢測(cè)節(jié)點(diǎn)或服務(wù)進(jìn)程故障和正確地重置系統(tǒng)達(dá)到高可 用性。

   2、     LVS集群的通用結(jié)構(gòu)

LVS集群采用IP負(fù)載均衡技術(shù)和基于內(nèi)容請(qǐng)求分發(fā)技術(shù)。調(diào)度器具有很好的吞吐率，將請(qǐng)求均衡地轉(zhuǎn)移到不同的服務(wù)器上執(zhí)行，且調(diào)度器自動(dòng)屏蔽掉服務(wù)器的故障，從而將一組服務(wù)器構(gòu)成一個(gè)高性能的、高可用的虛擬服務(wù)器。

圖1.1：LVS集群的體系結(jié)構(gòu)

為此，在設(shè)計(jì)時(shí)需要考慮系統(tǒng)的透明性、可伸縮性、高可用性和易管理性。LVS集群的體系結(jié)構(gòu)如圖1.1所示，它有三個(gè)主要組成部分：

• 負(fù)載調(diào)度器（load balancer），它是整個(gè)集群對(duì)外面的前端機(jī)，負(fù)責(zé)將客戶(hù)的請(qǐng)求發(fā)送到一組服務(wù)器上執(zhí)行，而客戶(hù)認(rèn)為服務(wù)是來(lái)自一個(gè)IP地址上的。它可以是用IP負(fù)載均衡技術(shù)的負(fù)載調(diào)度器，也可以是基于內(nèi)容請(qǐng)求分發(fā)的負(fù)載調(diào)度器，還可以是兩者的結(jié)合。

• 服務(wù)器池（server pool），是一組真正執(zhí)行客戶(hù)請(qǐng)求的服務(wù)器，執(zhí)行的服務(wù)有WEB、MAIL、FTP和DNS等。

• 后端存儲(chǔ)（backend storage），它為服務(wù)器池提供一個(gè)共享的存儲(chǔ)區(qū)，這樣很容易使得服務(wù)器池?fù)碛邢嗤�的�?nèi)容，提供相同的服務(wù)。

調(diào)度器采用IP負(fù)載均衡技術(shù)、基于內(nèi)容請(qǐng)求分發(fā)技術(shù)或者兩者相結(jié)合。在IP負(fù)載均衡技術(shù)中，需要服務(wù)器池?fù)碛邢嗤�的�?nèi)容提供相同的服務(wù)。當(dāng)客戶(hù)請(qǐng)求 到達(dá)時(shí)，調(diào)度器只根據(jù)負(fù)載情況從服務(wù)器池中選出一個(gè)服務(wù)器，將該請(qǐng)求轉(zhuǎn)發(fā)到選出的服務(wù)器，并記錄這個(gè)調(diào)度；當(dāng)這個(gè)請(qǐng)求的其他報(bào)文到達(dá)，也會(huì)被轉(zhuǎn)發(fā)到前面選 出的服務(wù)器。在基于內(nèi)容請(qǐng)求分發(fā)技術(shù)中，服務(wù)器可以提供不同的服務(wù)，當(dāng)客戶(hù)請(qǐng)求到達(dá)時(shí)，調(diào)度器可根據(jù)請(qǐng)求的內(nèi)容和服務(wù)器的情況選擇服務(wù)器執(zhí)行請(qǐng)求。因?yàn)樗?有的操作都是在操作系統(tǒng)核心空間中將完成的，它的調(diào)度開(kāi)銷(xiāo)很小，所以它具有很高的吞吐率。

服務(wù)器池的結(jié)點(diǎn)數(shù)目是可變的。當(dāng)整個(gè)系統(tǒng)收到的負(fù)載超過(guò)目前所有結(jié)點(diǎn)的處理能力時(shí)，可以在服務(wù)器池中增加服務(wù)器來(lái)滿(mǎn)足不斷增長(zhǎng)的請(qǐng)求負(fù)載。對(duì)大多數(shù)網(wǎng)絡(luò)服務(wù)來(lái)說(shuō)，結(jié)點(diǎn)與結(jié)點(diǎn)間不存在很強(qiáng)的相關(guān)性，所以整個(gè)系統(tǒng)的性能可以隨著服務(wù)器池的結(jié)點(diǎn)數(shù)目增加而線性增長(zhǎng)。

后端存儲(chǔ)通常用容錯(cuò)的分布式文件系統(tǒng)，如AFS、GFS、Coda和Intermezzo等。分布式文件系統(tǒng)為各服務(wù)器提供共享的存儲(chǔ)區(qū)，它們?cè)L問(wèn) 分布式文件系統(tǒng)就像訪問(wèn)本地文件系統(tǒng)一樣。同時(shí)，分布式文件系統(tǒng)提供良好的伸縮性和可用性。

二、IP負(fù)載均衡技術(shù)

本章節(jié)將描述三種IP負(fù)載均衡技術(shù)VS/NAT、VS/TUN和VS/DR的工作原理，以及它們的優(yōu)缺點(diǎn)。在以下描述中，我們稱(chēng)客戶(hù)的socket和服務(wù)器的socket之間的數(shù)據(jù)通訊為連接，無(wú)論它們是使用TCP還是UDP協(xié)議。

1、         通過(guò)NAT實(shí)現(xiàn)虛擬服務(wù)器（VS/NAT）

由于IPv4中IP地址空間的日益緊張和安全方面的原因，很多網(wǎng)絡(luò)使用保留IP地址（10.0.0.0/255.0.0.0、172.16.0.0 /255.128.0.0和192.168.0.0/255.255.0.0）[64, 65, 66]。這些地址不在Internet上使用，而是專(zhuān)門(mén)為內(nèi)部網(wǎng)絡(luò)預(yù)留的。當(dāng)內(nèi)部網(wǎng)絡(luò)中的主機(jī)要訪問(wèn)Internet或被Internet訪問(wèn)時(shí)，就需要 采用網(wǎng)絡(luò)地址轉(zhuǎn)換（Network Address Translation, 以下簡(jiǎn)稱(chēng)NAT），將內(nèi)部地址轉(zhuǎn)化為Internets上可用的外部地址。NAT的工作原理是報(bào)文頭（目標(biāo)地址、源地址和端口等）被正確改寫(xiě)后，客戶(hù)相信 它們連接一個(gè)IP地址，而不同IP地址的服務(wù)器組也認(rèn)為它們是與客戶(hù)直接相連的。由此，可以用NAT方法將不同IP地址的并行網(wǎng)絡(luò)服務(wù)變成在一個(gè)IP地址 上的一個(gè)虛擬服務(wù)。

VS/NAT的體系結(jié)構(gòu)如圖3.1所示。在一組服務(wù)器前有一個(gè)調(diào)度器，它們是通過(guò)Switch/HUB相連接的。這些服務(wù)器提供相同的網(wǎng)絡(luò)服務(wù)、相 同的內(nèi)容，即不管請(qǐng)求被發(fā)送到哪一臺(tái)服務(wù)器，執(zhí)行結(jié)果是一樣的。服務(wù)的內(nèi)容可以復(fù)制到每臺(tái)服務(wù)器的本地硬盤(pán)上，可以通過(guò)網(wǎng)絡(luò)文件系統(tǒng)（如NFS）共享，也 可以通過(guò)一個(gè)分布式文件系統(tǒng)來(lái)提供。

圖3.1：VS/NAT的體系結(jié)構(gòu)

客戶(hù)通過(guò)Virtual IP Address（虛擬服務(wù)的IP地址）訪問(wèn)網(wǎng)絡(luò)服務(wù)時(shí)，請(qǐng)求報(bào)文到達(dá)調(diào)度器，調(diào)度器根據(jù)連接調(diào)度算法從一組真實(shí)服務(wù)器中選出一臺(tái)服務(wù)器，將報(bào)文的目標(biāo)地址 Virtual IP Address改寫(xiě)成選定服務(wù)器的地址，報(bào)文的目標(biāo)端口改寫(xiě)成選定服務(wù)器的相應(yīng)端口，最后將修改后的報(bào)文發(fā)送給選出的服務(wù)器。同時(shí)，調(diào)度器在連接Hash 表中記錄這個(gè)連接，當(dāng)這個(gè)連接的下一個(gè)報(bào)文到達(dá)時(shí)，從連接Hash表中可以得到原選定服務(wù)器的地址和端口，進(jìn)行同樣的改寫(xiě)操作，并將報(bào)文傳給原選定的服務(wù) 器。當(dāng)來(lái)自真實(shí)服務(wù)器的響應(yīng)報(bào)文經(jīng)過(guò)調(diào)度器時(shí)，調(diào)度器將報(bào)文的源地址和源端口改為Virtual IP Address和相應(yīng)的端口，再把報(bào)文發(fā)給用戶(hù)。我們?cè)谶B接上引入一個(gè)狀態(tài)機(jī)，不同的報(bào)文會(huì)使得連接處于不同的狀態(tài)，不同的狀態(tài)有不同的超時(shí)值。在TCP 連接中，根據(jù)標(biāo)準(zhǔn)的TCP有限狀態(tài)機(jī)進(jìn)行狀態(tài)遷移；在UDP中，我們只設(shè)置一個(gè)UDP狀態(tài)。不同狀態(tài)的超時(shí)值是可以設(shè)置的，在缺省情況下，SYN狀態(tài)的超 時(shí)為1分鐘，ESTABLISHED狀態(tài)的超時(shí)為15分鐘，F(xiàn)IN狀態(tài)的超時(shí)為1分鐘；UDP狀態(tài)的超時(shí)為5分鐘。當(dāng)連接終止或超時(shí)，調(diào)度器將這個(gè)連接從 連接Hash表中刪除。

這樣，客戶(hù)所看到的只是在Virtual IP Address上提供的服務(wù)，而服務(wù)器集群的結(jié)構(gòu)對(duì)用戶(hù)是透明的。對(duì)改寫(xiě)后的報(bào)文，應(yīng)用增量調(diào)整Checksum的算法調(diào)整TCP Checksum的值，避免了掃描整個(gè)報(bào)文來(lái)計(jì)算Checksum的開(kāi)銷(xiāo)。

在一些網(wǎng)絡(luò)服務(wù)中，它們將IP地址或者端口號(hào)在報(bào)文的數(shù)據(jù)中傳送，若我們只對(duì)報(bào)文頭的IP地址和端口號(hào)作轉(zhuǎn)換，這樣就會(huì)出現(xiàn)不一致性，服務(wù)會(huì)中斷。 所以，針對(duì)這些服務(wù)，需要編寫(xiě)相應(yīng)的應(yīng)用模塊來(lái)轉(zhuǎn)換報(bào)文數(shù)據(jù)中的IP地址或者端口號(hào)。我們所知道有這個(gè)問(wèn)題的網(wǎng)絡(luò)服務(wù)有FTP、IRC、H.323、 CUSeeMe、Real Audio、Real Video、Vxtreme / Vosiac、VDOLive、VIVOActive、True Speech、RSTP、PPTP、StreamWorks、NTT AudioLink、NTT SoftwareVision、Yamaha MIDPlug、iChat Pager、Quake和Diablo。

2、         通過(guò)IP隧道實(shí)現(xiàn)虛擬服務(wù)器（VS/TUN）

在VS/NAT的集群系統(tǒng)中，請(qǐng)求和響應(yīng)的數(shù)據(jù)報(bào)文都需要通過(guò)負(fù)載調(diào)度器，當(dāng)真實(shí)服務(wù)器的數(shù)目在10臺(tái)和20臺(tái)之間時(shí)，負(fù)載調(diào)度器將成為整個(gè)集群系 統(tǒng)的新瓶頸。大多數(shù)Internet服務(wù)都有這樣的特點(diǎn)：請(qǐng)求報(bào)文較短而響應(yīng)報(bào)文往往包含大量的數(shù)據(jù)。如果能將請(qǐng)求和響應(yīng)分開(kāi)處理，即在負(fù)載調(diào)度器中只負(fù) 責(zé)調(diào)度請(qǐng)求而響應(yīng)直接返回給客戶(hù)，將極大地提高整個(gè)集群系統(tǒng)的吞吐量。

IP隧道（IP tunneling）是將一個(gè)IP報(bào)文封裝在另一個(gè)IP報(bào)文的技術(shù)，這可以使得目標(biāo)為一個(gè)IP地址的數(shù)據(jù)報(bào)文能被封裝和轉(zhuǎn)發(fā)到另一個(gè)IP地址。IP隧道技 術(shù)亦稱(chēng)為IP封裝技術(shù)（IP encapsulation）。IP隧道主要用于移動(dòng)主機(jī)和虛擬私有網(wǎng)絡(luò)（Virtual Private Network），在其中隧道都是靜態(tài)建立的，隧道一端有一個(gè)IP地址，另一端也有唯一的IP地址。

我們利用IP隧道技術(shù)將請(qǐng)求報(bào)文封裝轉(zhuǎn)發(fā)給后端服務(wù)器，響應(yīng)報(bào)文能從后端服務(wù)器直接返回給客戶(hù)。但在這里，后端服務(wù)器有一組而非一個(gè)，所以我們不可 能靜態(tài)地建立一一對(duì)應(yīng)的隧道，而是動(dòng)態(tài)地選擇一臺(tái)服務(wù)器，將請(qǐng)求報(bào)文封裝和轉(zhuǎn)發(fā)給選出的服務(wù)器。這樣，我們可以利用IP隧道的原理將一組服務(wù)器上的網(wǎng)絡(luò)服 務(wù)組成在一個(gè)IP地址上的虛擬網(wǎng)絡(luò)服務(wù)。VS/TUN的體系結(jié)構(gòu)如圖3.3所示，各個(gè)服務(wù)器將VIP地址配置在自己的IP隧道設(shè)備上。

圖3.3：VS/TUN的體系結(jié)構(gòu)

3、         通過(guò)直接路由實(shí)現(xiàn)虛擬服務(wù)器（VS/DR）

跟VS/TUN方法相同，VS/DR利用大多數(shù)Internet服務(wù)的非對(duì)稱(chēng)特點(diǎn)，負(fù)載調(diào)度器中只負(fù)責(zé)調(diào)度請(qǐng)求，而服務(wù)器直接將響應(yīng)返回給客戶(hù)，可 以極大地提高整個(gè)集群系統(tǒng)的吞吐量。該方法與IBM的NetDispatcher產(chǎn)品中使用的方法類(lèi)似，但I(xiàn)BM的NetDispatcher是非常昂貴 的商品化產(chǎn)品，我們也不知道它內(nèi)部所使用的機(jī)制，其中有些是IBM的專(zhuān)利。

VS/DR的體系結(jié)構(gòu)如圖3.6所示：調(diào)度器和服務(wù)器組都必須在物理上有一個(gè)網(wǎng)卡通過(guò)不分段的局域網(wǎng)相連，即通過(guò)交換機(jī)或者高速的HUB相連，中間 沒(méi)有隔有路由器。VIP地址為調(diào)度器和服務(wù)器組共享，調(diào)度器配置的VIP地址是對(duì)外可見(jiàn)的，用于接收虛擬服務(wù)的請(qǐng)求報(bào)文；所有的服務(wù)器把VIP地址配置在 各自的Non-ARP網(wǎng)絡(luò)設(shè)備上，它對(duì)外面是不可見(jiàn)的，只是用于處理目標(biāo)地址為VIP的網(wǎng)絡(luò)請(qǐng)求。

圖3.6：VS/DR的體系結(jié)構(gòu)

VS/DR負(fù)載調(diào)度器也只處于從客戶(hù)到服務(wù)器的半連接中，按照半連接的TCP有限狀態(tài)機(jī)進(jìn)行狀態(tài)遷移。

4、         三種方法的優(yōu)缺點(diǎn)比較

三種IP負(fù)載均衡技術(shù)的優(yōu)缺點(diǎn)歸納在下表中：

VS/NAT-----服務(wù)器上升到一定數(shù)量時(shí)，負(fù)載調(diào)度器容易出現(xiàn)瓶頸；吞吐量小

    VS/TUN-------吞吐量比較大

    VS/DR---------吞吐量比較大

注：以上三種方法所能支持最大服務(wù)器數(shù)目的估計(jì)是假設(shè)調(diào)度器使用100M網(wǎng)卡，調(diào)度器的硬件配置與后端服務(wù)器的硬件配置相同，而且是對(duì)一般Web服 務(wù)。使用更高的硬件配置（如千兆網(wǎng)卡和更快的處理器）作為調(diào)度器，調(diào)度器所能調(diào)度的服務(wù)器數(shù)量會(huì)相應(yīng)增加。當(dāng)應(yīng)用不同時(shí)，服務(wù)器的數(shù)目也會(huì)相應(yīng)地改變。所 以，以上數(shù)據(jù)估計(jì)主要是為三種方法的伸縮性進(jìn)行量化比較。

a)  Virtual Server via NAT

VS/NAT 的優(yōu)點(diǎn)是服務(wù)器可以運(yùn)行任何支持TCP/IP的操作系統(tǒng)，它只需要一個(gè)IP地址配置在調(diào)度器上，服務(wù)器組可以用私有的IP地址。缺點(diǎn)是它的伸縮能力有限， 當(dāng)服務(wù)器結(jié)點(diǎn)數(shù)目升到20時(shí)，調(diào)度器本身有可能成為系統(tǒng)的新瓶頸，因?yàn)樵赩S/NAT中請(qǐng)求和響應(yīng)報(bào)文都需要通過(guò)負(fù)載調(diào)度器。

b)  Virtual Server via IP Tunneling

在VS/TUN 的集群系統(tǒng)中，負(fù)載調(diào)度器只將請(qǐng)求調(diào)度到不同的后端服務(wù)器，后端服務(wù)器將應(yīng)答的數(shù)據(jù)直接返回給用戶(hù)。這樣，負(fù)載調(diào)度器就可以處理大量的請(qǐng)求，它甚至可以調(diào) 度百臺(tái)以上的服務(wù)器（同等規(guī)模的服務(wù)器），而它不會(huì)成為系統(tǒng)的瓶頸。即使負(fù)載調(diào)度器只有100Mbps的全雙工網(wǎng)卡，整個(gè)系統(tǒng)的最大吞吐量可超過(guò) 1Gbps。所以，VS/TUN可以極大地增加負(fù)載調(diào)度器調(diào)度的服務(wù)器數(shù)量。VS/TUN調(diào)度器可以調(diào)度上百臺(tái)服務(wù)器，而它本身不會(huì)成為系統(tǒng)的瓶頸，可以 用來(lái)構(gòu)建高性能的超級(jí)服務(wù)器。

VS/TUN技術(shù)對(duì)服務(wù)器有要求，即所有的服務(wù)器必須支持“IP Tunneling”或者“IP Encapsulation”協(xié)議。目前，VS/TUN的后端服務(wù)器主要運(yùn)行Linux操作系統(tǒng)，我們沒(méi)對(duì)其他操作系統(tǒng)進(jìn)行測(cè)試。因?yàn)椤癐P Tunneling”正成為各個(gè)操作系統(tǒng)的標(biāo)準(zhǔn)協(xié)議，所以VS/TUN應(yīng)該會(huì)適用運(yùn)行其他操作系統(tǒng)的后端服務(wù)器。

c)  Virtual Server via Direct Routing

跟VS/TUN方法一樣，VS/DR調(diào)度器只處理客戶(hù)到服務(wù)器端的連接，響應(yīng)數(shù)據(jù)可以直接從獨(dú)立的網(wǎng)絡(luò)路由返回給客戶(hù)。這可以極大地提高LVS集群系統(tǒng)的伸縮性。跟VS/TUN相比，這種方法沒(méi)有IP隧道的開(kāi)銷(xiāo)，但是要求負(fù)載調(diào)度器與實(shí)際服務(wù)器都有一塊網(wǎng)卡連在同一物理網(wǎng)段上，服務(wù)器網(wǎng)絡(luò)設(shè)備（或者設(shè)備別名）不作ARP響應(yīng)，或者能將報(bào)文重定向（Redirect）到本地的Socket端口上。

三、負(fù)載調(diào)度算法

如何通過(guò)負(fù)載調(diào)度器將請(qǐng)求高效地分 發(fā)到不同的服務(wù)器執(zhí)行，使得由多臺(tái)獨(dú)立計(jì)算機(jī)組成的集群系統(tǒng)成為一臺(tái)虛擬服務(wù)器；客戶(hù)端應(yīng)用程序與集群系統(tǒng)交互時(shí)，就像與一臺(tái)高性能的服務(wù)器交互一樣。

如何將請(qǐng)求流調(diào)度到各臺(tái)服務(wù)器，使得各臺(tái)服務(wù)器盡可能地保持負(fù)載均衡。IPVS在內(nèi)核中所實(shí)現(xiàn)的各種連接調(diào)度算法；

在下面描述中，我們稱(chēng)客戶(hù)的socket和服務(wù)器的socket之間的數(shù)據(jù)通訊為連接，無(wú)論它們是使用TCP還是UDP協(xié)議。對(duì)于UDP數(shù)據(jù)報(bào)文的 調(diào)度，IPVS調(diào)度器也會(huì)為之建立調(diào)度記錄并設(shè)置超時(shí)值（如5分鐘）；在設(shè)定的時(shí)間內(nèi)，來(lái)自同一地址（IP地址和端口）的UDP數(shù)據(jù)包會(huì)被調(diào)度到同一臺(tái)服 務(wù)器。

八種調(diào)度算法（rr,wrr,lc,wlc,lblc,lblcr,dh,sh）

五、內(nèi)核中的基于內(nèi)容請(qǐng)求分發(fā)KTCPVS

由于用戶(hù)空間TCP Gateway的開(kāi)銷(xiāo)太大，導(dǎo)致其伸縮能力有限。為此，我們提出在操作系統(tǒng)的內(nèi)核中實(shí)現(xiàn)Layer-7交換方法，來(lái)避免用戶(hù)空間與核心空間的切換開(kāi)銷(xiāo)和內(nèi) 存復(fù)制的開(kāi)銷(xiāo)。在Linux操作系統(tǒng)的內(nèi)核中，我們實(shí)現(xiàn)了Layer-7交換，稱(chēng)之為KTCPVS（Kernel TCP Virtual Server）。以下幾小節(jié)將介紹KTCPVS的體系結(jié)構(gòu)、實(shí)現(xiàn)方法、負(fù)載平衡和高可用特征等。

1、         KTCPVS的體系結(jié)構(gòu)

KTCPVS集群的體系結(jié)構(gòu)如圖6.3所示：它主要由兩個(gè)組成部分，一是KTCPVS交換機(jī)，根據(jù)內(nèi)容不同將請(qǐng)求發(fā)送到不同的服務(wù)器上；二是后端服務(wù)器，可運(yùn)行不同的網(wǎng)絡(luò)服務(wù)。KTCPVS交換機(jī)和后端服務(wù)器通過(guò)LAN/WAN互聯(lián)。

圖6.3 ：KTCPVS集群的體系結(jié)構(gòu)

KTCPVS交換機(jī)能進(jìn)行根據(jù)內(nèi)容的調(diào)度，將不同類(lèi)型的請(qǐng)求發(fā)送到不同的后端服務(wù)器，再將結(jié)果返回給客戶(hù)，后端服務(wù)器對(duì)客戶(hù)是不可見(jiàn)的。所 以，KTCPVS集群的結(jié)構(gòu)對(duì)客戶(hù)是透明的，客戶(hù)訪問(wèn)集群提供的網(wǎng)絡(luò)服務(wù)就像訪問(wèn)一臺(tái)高性能、高可用的服務(wù)器一樣，故我們也稱(chēng)之為虛擬服務(wù)器�？蛻�(hù)程序不 受服務(wù)器集群的影響不需作任何修改。