Java?Chassis3負載均衡選擇器技術解密

更新時間：2024年01月17日 09:11:40 作者：liubao68

這篇文章主要為大家介紹了Java?Chassis3負載均衡選擇器技術解密,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪

Java Chassis 3技術解密：負載均衡選擇器

負載均衡用于管理微服務實例之間的訪問策略。它負責在每次請求中高效選擇目標實例，并保持請求在多個目標實例中均衡。目標實例選擇過程可以使用下面的示例圖簡單展示：

AZ親和是常見的選擇器之一。它根據本實例的AZ信息和目標實例的AZ信息，確定合適的目標實例子集，實例子集與本實例具有相同的AZ信息。

負載均衡選擇器是一個典型的職責鏈模式。

Ribbon 的職責鏈

public interface ServerListFilter<T extends Server> {
  List<T> getFilteredListOfServers(List<T> servers);
}

Spring Cloud Commons 的職責鏈

public abstract class DelegatingServiceInstanceListSupplier implements ServiceInstanceListSupplier, InitializingBean, DisposableBean {
  protected final ServiceInstanceListSupplier delegate;

  public DelegatingServiceInstanceListSupplier(ServiceInstanceListSupplier delegate) {
    this.delegate = delegate;
  }

  public ServiceInstanceListSupplier getDelegate() {
    return this.delegate;
  }
}

Java Chassis 的職責鏈

public interface DiscoveryFilter extends Ordered {
  DiscoveryTreeNode discovery(DiscoveryContext context, DiscoveryTreeNode parent);
}

Java Chassis 使用了樹型結構的職責鏈，它的工作過程如下：

將實例預分組。
通過樹型結構索引，快速找到目標實例集合。
當某個樹節(jié)點為空的場景，可以返回上層選擇器，重新查找。

能夠快速檢索到實例的場景：

出現(xiàn)實例為空的的場景：

樹型職責鏈模式優(yōu)勢

相對于線性的職責鏈模式，樹型職責鏈模式存在兩方面明顯的優(yōu)勢：

計算復雜度從 O(N) 降低為 O(1)。當實例規(guī)模很大，比如超過1000的時候，該算法能夠極大的降低CPU使用率，減少垃圾回收的數量。
能夠解決上層選擇器的結果在下層選擇器的結果為空的問題。比如在AZ親和場景，如果本AZ的實例不滿足后續(xù)選擇器的條件，那么使用非本AZ的實例，能夠確保本次訪問的正確性，降低錯誤率，也能夠更好的滿足請求均衡的要求。

客戶故事：在某個客戶的實際場景中，如果實例數超過1000，負載均衡的CPU消耗占到整個請求處理時間的20%以上，隨著應用規(guī)模的變大，負載均衡處理算法的性能優(yōu)化變得更加重要了。

以上就是Java Chassis3負載均衡選擇器技術解密的詳細內容，更多關于Java Chassis3負載均衡選擇器的資料請關注腳本之家其它相關文章！

您可能感興趣的文章: