LoadBalancerClient 是 SpringCloud 提供的一種負載均衡客戶端，Ribbon 負載均衡組件內(nèi)部也是集成了 LoadBalancerClient 來實現(xiàn)負載均衡。那么 LoadBalancerClient 內(nèi)部到底是如何做到的呢？我們先大概講一下 LoadBalancerClient 的實現(xiàn)原理，然后再深入源碼中進行解析。

        LoadBalancerClient 在初始化時會通過 Eureka Client 向 Eureka 服務(wù)端獲取所有服務(wù)實例的注冊信息并緩存在本地，并且每10秒向 EurekaClient 發(fā)送 “ping”，來判斷服務(wù)的可用性。如果服務(wù)的可用性發(fā)生了改變或者服務(wù)數(shù)量和之前的不一致，則更新或者重新拉取。最后，在得到服務(wù)注冊列表信息后，ILoadBalancer 根據(jù) IRule 的策略進行負載均衡（默認策略為輪詢）。

        當(dāng)使用 LoadBalancerClient 進行遠程調(diào)用的負載均衡時，LoadBalancerClient 先通過目標服務(wù)名在本地服務(wù)注冊清單中獲取服務(wù)提供方的某一個實例，比如訂單服務(wù)需要訪問商品服務(wù)，商品服務(wù)有3個節(jié)點，LoadBalancerClient 會通過 choose() 方法獲取到3個節(jié)點中的一個服務(wù)，拿到服務(wù)的信息之后取出服務(wù)IP信息，就可以得到完整的想要訪問的IP地址和接口，最后通過 RestTempate 訪問商品服務(wù)。

深入解析 LoadBalancerClient 接口源碼：

1、LoadBalancerClient 源碼解析：

        LoadBalancerClient 是 Spring Cloud 提供的一個非常重要的接口，它繼承自 ServiceInstanceChooser 接口，該接口的實現(xiàn)類是 RibbonLoadBalanceClient，它們之間的關(guān)系如下圖所示：

（1）LoadBalancerClient 接口源碼：

首先我們開始追蹤 LoadBalancerClient 源碼：

public interface LoadBalancerClient extends ServiceInstanceChooser 
{
	<T> T execute(String serviceId, LoadBalancerRequest<T> request) throws IOException;
     
    <T> T execute(String serviceId, ServiceInstance serviceInstance, LoadBalancerRequest<T> request) throws IOException;
    
    URI reconstructURI(ServiceInstance instance, URI original);
}

        可以發(fā)現(xiàn) LoadBalancerClient 接口繼承了 ServiceInstanceChooser 接口，主要的方法為2個 execute() 方法，均是用來執(zhí)行請求的。還有個 reconstructURI() 是用來重構(gòu)URL的。

（2）ServiceInstanceChooser 接口源碼：

繼續(xù)查看 LoadBalancerClient 繼承的 ServiceInstanceChooser 接口源碼，具體如下：

public interface ServiceInstanceChooser 
{
	ServiceInstance choose(String serviceId);
}

        ServiceInstanceChooser 接口中的主要方法為 choose()，該方法用于根據(jù)服務(wù)的名稱 serviceId 來選擇其中一個服務(wù)實例，即根據(jù) serviceId 獲取ServiceInstance。

（3）RibbonLoadBalanceClient 實現(xiàn)類源碼：

        接下來我們看看 LoadBalancerClient 的實現(xiàn)類 RibbonLoadBalanceClient，它用來執(zhí)行最終的負載均衡請求。其中，RibbonLoadBalanceClient 的一個 choose() 方法用于選擇具體的服務(wù)實例，其內(nèi)部是通過 getServer() 方法交給 ILoadBalancer 完成的。我們先看下 RibbonLoadBalanceClient 里面幾個重要實現(xiàn)方法的源碼：

① 第一個：choose()，用來選擇具體的服務(wù)實例。

@Override
	public ServiceInstance choose(String serviceId) {
		return choose(serviceId, null);
	}
	/**
	 * New: Select a server using a 'key'.
	 * @param serviceId of the service to choose an instance for
	 * @param hint to specify the service instance
	 * @return the selected {@link ServiceInstance}
	 */
	public ServiceInstance choose(String serviceId, Object hint) {
		Server server = getServer(getLoadBalancer(serviceId), hint);
		if (server == null) {
			return null;
		}
		return new RibbonServer(serviceId, server, isSecure(server, serviceId),
				serverIntrospector(serviceId).getMetadata(server));
	}

② 第二個：getServer()，獲取實例。

protected Server getServer(ILoadBalancer loadBalancer) {
		return getServer(loadBalancer, null);
	}
	protected Server getServer(ILoadBalancer loadBalancer, Object hint) {
		if (loadBalancer == null) {
			return null;
		}
        // 最終通過 loadBalancer 去做服務(wù)實例的選擇。
		// Use 'default' on a null hint, or just pass it on?
		return loadBalancer.chooseServer(hint != null ? hint : "default");
	}

        可以看到最終通過 loadBalancer 去做服務(wù)實例的選擇。那我們下面就看下 loadBalancer 是怎么怎么實現(xiàn)服務(wù)實例的選擇的？

（4）BaseLoadBalancer 源碼：

        我們從上面能看到 ILoadBalancer 中的 chooseServer 方法里面默認值為 default，進入ILoadBalancer 實現(xiàn)類 BaseLoadBalancer 的 chooseServer() 看下：

         我們的 key 的值為“default”，那么這個 key 代表的是什么意思呢？進去 rule 對象里面看下：

        可以看到這個 rule 是 IRule 接口聲明出來的，且默認定義的實現(xiàn)類是 RoundRobinRule()，也就是輪詢策略。那我們接下來看下 IRule 接口：

（5）IRule 接口源碼：

public interface IRule{
    /*
     * choose one alive server from lb.allServers or
     * lb.upServers according to key
     * 
     * @return choosen Server object. NULL is returned if none
     *  server is available 
     */
    public Server choose(Object key);
    
    public void setLoadBalancer(ILoadBalancer lb);
    
    public ILoadBalancer getLoadBalancer();    
}

        我們可以看到 IRule 接口定義了3個方法，choose() 是用來選擇實例的，setLoadBalancer() 和 getLoadBalance() 用來設(shè)置和獲取 ILoadBalancer 的。那么接下來 IRule 接口有多少個實現(xiàn)類：

 （1）隨機策略 RandomRule：隨機數(shù)選擇服務(wù)列表中的服務(wù)節(jié)點Server，如果當(dāng)前節(jié)點不可用，則進入下一輪隨機策略，直到選到可用服務(wù)節(jié)點為止

（2）輪詢策略 RoundRobinRule：按照接收的請求順序，逐一分配到不同的后端服務(wù)器

（3）重試策略 RetryRule：在選定的負載均衡策略機上重試機制，在一個配置時間段內(nèi)當(dāng)選擇Server不成功，則一直嘗試使用 subRule 的方式選擇一個可用的server；

（4）可用過濾策略 PredicateBaseRule：過濾掉連接失敗 和 高并發(fā)連接 的服務(wù)節(jié)點，然后從健康的服務(wù)節(jié)點中以線性輪詢的方式選出一個節(jié)點返回

（5）響應(yīng)時間權(quán)重策略 WeightedRespinseTimeRule：根據(jù)服務(wù)器的響應(yīng)時間分配一個權(quán)重weight，響應(yīng)時間越長，weight越小，被選中的可能性越低。主要通過后臺線程定期地從 status 里面讀取平均響應(yīng)時間，為每個 server 計算一個 weight

（6）并發(fā)量最小可用策略 BestAvailableRule：選擇一個并發(fā)量最小的服務(wù)節(jié)點 server。ServerStats 的 activeRequestCount 屬性記錄了 server 的并發(fā)量，輪詢所有的server，選擇其中 activeRequestCount 最小的那個server，就是并發(fā)量最小的服務(wù)節(jié)點。該策略的優(yōu)點是可以充分考慮每臺服務(wù)節(jié)點的負載，把請求打到負載壓力最小的服務(wù)節(jié)點上。但是缺點是需要輪詢所有的服務(wù)節(jié)點，如果集群數(shù)量太大，那么就會比較耗時。

（7）區(qū)域權(quán)重策略 ZoneAvoidanceRule：綜合判斷 server 所在區(qū)域的性能 和 server 的可用性，使用 ZoneAvoidancePredicate 和 AvailabilityPredicate 來判斷是否選擇某個server，前一個判斷判定一個zone的運行性能是否可用，剔除不可用的zone（的所有server），AvailabilityPredicate 用于過濾掉連接數(shù)過多的Server。

同樣的，如果我們也可以通過實現(xiàn) IRule 接口來自定義一個負載均衡策略。

2、ILoadBalancer 源碼解析：

        ILoadBalancer 是一個接口，該接口定義了一系列實現(xiàn)負載均衡的方法，LoadBalancerClient 的實現(xiàn)類 RibbonLoadBalanceClient 也將負載均衡的具體實現(xiàn)交給了 ILoadBalancer 來處理，ILoadBalancer 通過配置 IRule、IPing 等，向 EurekaClient 獲取注冊列表信息，默認每10秒向 EurekaClient 發(fā)送一次 “ping”，進而檢查是否需要更新服務(wù)的注冊列表信息。最后，在得到服務(wù)注冊列表信息后，ILoadBalancer 根據(jù) IRule 的策略進行負載均衡。ILoadBalancer 接口的實現(xiàn)類結(jié)果如下圖所示：

        查看 BaseLoadBalancer 和 DynamicServerListLoadBalancer 源碼，默認情況下實現(xiàn)了以下配置：

（1）IClientConfig clientConfig：用于配置負載均衡客戶端，默認實現(xiàn)類是 DefaultClientConfigImpl。

（2）IRule rule：用于配置負載均衡的策略，默認使用的是 RoundRobinRule 輪詢策略。

（3）IPing ping：用于檢查當(dāng)前服務(wù)是否有響應(yīng)，從而判斷當(dāng)前服務(wù)是否可用，默認實現(xiàn)類是 DummyPing，該實現(xiàn)類的 isAlive() 方法返回值是 true，默認所有服務(wù)實例都是可用的。

（4）ServerList serverList：用于獲取所有 Server 注冊列表信息。通過跟蹤源碼會發(fā)現(xiàn)，ServerList 的實現(xiàn)類是 DiscoveryEnabledNIWSServerList，該類定義的 obtainServersViaDiscovery() 方法是根據(jù) eurekaClientProvider.get() 方法獲取 EurekaClient，再根據(jù) EurekaClient 獲取服務(wù)注冊列表信息。EurekaClient 的實現(xiàn)類是DiscoveryClient，DiscoveryClient 具有服務(wù)注冊、獲取服務(wù)注冊列表等功能。

（5）ServerListFilter filter：定義了根據(jù)配置過濾或者動態(tài)獲取符合條件的服務(wù)列表，默認實現(xiàn)類是 ZonePreferenceServerListFilter，該策略能夠優(yōu)先過濾出與請求調(diào)用方處于同區(qū)域的服務(wù)實例。

到此這篇關(guān)于SpringCloud LoadBalancerClient 負載均衡原理的文章就介紹到這了,更多相關(guān)SpringCloud LoadBalancerClient 負載均衡內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論