Was ist die Methode zur Optimierung von Java-Server-Containern?

1. Warum sollten wir eine Projektleistungsoptimierung durchführen?

Vor der Veröffentlichung des Projekts muss das Projekt einem Stresstest unterzogen werden, um Leistungsprobleme des Projekts zu erkennen, wie zum Beispiel: langsame Projektreaktionszeit Das Projekt kann jedes Mal weniger Anfragen lösen, es gibt einen Engpass im Projekt, die Projektabfragedaten sind langsam usw. Nach der Erkennung muss es optimiert werden. Dies bedeutet, dass die Antwortzeit Ihrer Projektschnittstelle zehn Sekunden überschreitet Wird dennoch eine Reihe von Maßnahmen nicht ergriffen, liegt ein Problem mit dem Projekt vor. Der Zweck der Leistungsoptimierung besteht darin, das Projekt optimierter zu gestalten, RT (laufende Reaktionszeit) und TPS (Durchsatz -> Anzahl) klein zu halten Anzahl der von der Datenbank pro Sekunde empfangenen Anfragen) größer und so weiter.

Im Allgemeinen werden in Unternehmen JMeter oder K8s verwendet. Nachdem das Projekt geschrieben wurde, führen sie einen Stresstest durch und reagieren auf das Projekt Die Zeitanforderungen werden verwendet, um eine grobe Beurteilung der Anforderungsdaten des Projekts vorzunehmen. Entwickler müssen Schnittstellen auf der Grundlage dieser Anforderungen schreiben. Wenn die Schnittstellenantwortzeit die festgelegten Daten überschreitet, können das Projekt und die Projektschnittstelle nicht unterstützt werden Optimierung von Datenbanken, Containern, Caches usw. erforderlich.

2. Leistungsoptimierung von Service-Containern

2.1 Optimierung von Cut-in Tomcat in SpringBoot: Optimierung der maximalen Anzahl von Threads

Tuning-Anweisungen ：

maxThreadsMaximale Anzahl von Threads: misst die Anzahl der Aufgaben, die der Webserver gleichzeitig verarbeiten kann

accept-countMaximale Warteanzahl: WarteschlangeMaximal akzeptabel der Wartemenge. Die Ablehnungsanfrage wurde überschritten.

Max. Verbindungen: Die maximale Anzahl gleichzeitiger Verbindungen.

Wenn die Anzahl der -Links das Maximum erreicht, wird die Anfrage fortgesetzt und in den Wartezustand versetzt. Wenn die maximale Wartezeit überschritten wird, wird sie abgelehnt.

Die maximale Anzahl von Threads in SpringBoot beträgt 200. In vielen Fällen reicht die maximale Anzahl von Threads 200 nicht aus. Im Allgemeinen ist die Serverkonfiguration von 1cpu2G auf 200 eingestellt Die Serverkonfiguration von 4cpu8G ist auf 800 eingestellt, was TPS erheblich verbessern und RT reduzieren kann.

Tuning-Einstellungen

Ändern Sie die Konfigurationsdatei application.yml

# Tomcat的 maxConnections、maxThreads、acceptCount三大配置，
#分别表示最大连接数，最大线程数、最大的等待数，可以通过application.yml配置文件来改变这个三个值，一个标
#准的示例如下：
server.tomcat.uri-encoding: UTF-8
# 思考问题：一台服务器配置多少线程合适？
server.tomcat.accept-count: 1000 # 等待队列最多允许1000个请求在队列中等待
server.tomcat.max-connections: 20000 # 最大允许20000个链接被建立
## 最大工作线程数，默认200, 4核8g内存，线程数经验值800
server.tomcat.threads.max: 800 # 并发处理创建的最大的线程数量
server.tomcat.threads.min-spare: 100 # 最大空闲连接数，防止突发流量

Die geänderte Konfiguration muss bestätigt werden, damit sie wirksam wird.

Sie können die Konfiguration in SpringBoot verwenden. Fügen Sie jetzt

# 暴露所有的监控点
management.endpoints.web.exposure.include: '*'
# 定义Actuator访问路径
management.endpoints.web.base-path: /actuator
# 开启endpoint 关闭服务功能
management.endpoint.shutdown.enabled: true

• zur Konfigurationsdatei hinzu, um zu überprüfen, ob die Konfiguration wirksam wird: ip: Port/Aktuator# 🎜🎜#

• Suche Tomcat

2.2 Netzwerk-IO-Modelloptimierung

Netzwerk-IO ist das Lesen und Schreiben von Systemdateien. Das System verwendet NIO (hohe Leistung, synchron, nicht blockierend). Tatsächlich ist NIO2 (ultrahohe Leistung, asynchron, nicht blockierend) standardmäßig eingebettet, aber Sie benötigen um die NIO2-API aufzurufen, aber was ist mit diesem Teil? Es hängt vom System ab (NIO2). Beispielsweise unterstützt Linux AIO NIO, das die Unterstützung für Dateiverarbeitungs- und Dateisystemfunktionen verbessert. Nachdem das System AIO verwendet, wird die Reaktionszeit verkürzt und stabil.

Tuning-Einstellungen

Direkt in die Java-Klasse im Projektcode einfügen, um eine Java-Konfigurationsklasse zu generieren

@Configuration
    public class TomcatConfig {
        //自定义SpringBoot嵌入式Tomcat
        @Bean
        public TomcatServletWebServerFactory servletContainer() {
            TomcatServletWebServerFactory tomcat = new
                TomcatServletWebServerFactory() {};
            tomcat.addAdditionalTomcatConnectors(http11Nio2Connector());
            return tomcat;
        }
        //配置连接器nio2
        public Connector http11Nio2Connector() {
            Connector connector=new
                Connector("org.apache.coyote.http11.Http11Nio2Protocol");
            Http11Nio2Protocol nio2Protocol = (Http11Nio2Protocol)
                                               connector.getProtocolHandler();
            //等待队列最多允许1000个线程在队列中等待
            nio2Protocol.setAcceptCount(1000);
            // 设置最大线程数
            nio2Protocol.setMaxThreads(1000);
            // 设置最大连接数
            nio2Protocol.setMaxConnections(20000);
            //定制化keepalivetimeout,设置30秒内没有请求则服务端自动断开keepalive链接
            nio2Protocol.setKeepAliveTimeout(30000);
            //当客户端发送超过10000个请求则自动断开keepalive链接
            nio2Protocol.setMaxKeepAliveRequests(10000);
            // 请求方式
            connector.setScheme("http");
            connector.setPort(9003); //自定义的端口，与源端口9001可以共用，知识改了连接器而已
            connector.setRedirectPort(8443);
            return connector;
        }
    }

#🎜🎜 # Die Erkennungskonfiguration wird wirksam: ip:9003/calling interface

• Hinweis: Tomcat verfügt auch über einen Modus namens apr, der aio automatisch einschaltet. Die obige Methode ist eine andere Übrigens, aber im Allgemeinen wird dies nicht für die Optimierung verwendet. Dieser Teil ist nur ein vorläufiges Verständnis, da nicht alle Systeme AIO unterstützen Wie wir alle wissen, ist Tomcat in SpringBoot eingebettet, aber tatsächlich sind in SpringBoot drei Arten von Servern eingebettet: Tomcat (ausgereifter, stabiler Hochleistungsserver), Apache Development, Jetty (leicht, schnell und flexibel) und Undertwo (hochleistungsfähiger Server). Leistung, hohe Flexibilität).

In Spring Boot wird standardmäßig Tomcat als integrierter Webserver verwendet. Sie können es auch entsprechend in der Konfigurationsdatei konfigurieren und zwischen Jetty und Undertow wählen.

Konfigurationsvorgang:

Tomcat im Spring-Boot-Starter-Web ausschließen

<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-web</artifactId>
  <exclusions>
    <exclusion>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-tomcat</artifactId>
    </exclusion>
  </exclusions>
</dependency

Starter anderer Container importieren

<!--导入undertow容器依赖-->
<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-undertow</artifactId>
</dependency>

• Konfiguration

# 设置IO线程数, 它主要执行非阻塞的任务,它们会负责多个连接
server.undertow.threads.io: 800
# 阻塞任务线程池, 当执行类似servlet请求阻塞IO操作, undertow会从这个线程池中取得线程
# 默认值是IO线程数*8
server.undertow.threads.worker: 8000
# 以下的配置会影响buffer,这些buffer会用于服务器连接的IO操作,有点类似netty的池化内存管理
# 每块buffer的空间大小越小，空间就被利用的越充分，不要设置太大，以免影响其他应用，合适即可
server.undertow.buffer-size: 1024
# 每个区分配的buffer数量 , 所以pool的大小是buffer-size * buffers-per-region
# 是否分配的直接内存(NIO直接分配的堆外内存)
server.undertow.direct-buffers: true

Das obige ist der detaillierte Inhalt vonWas ist die Methode zur Optimierung von Java-Server-Containern?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!