Java 서버 컨테이너 튜닝 방법은 무엇입니까?

1. 프로젝트 성능 조정을 수행해야 하는 이유

프로젝트가 출시되기 전에 프로젝트의 성능 문제를 감지하기 위해 프로젝트에 대한 스트레스 테스트가 필요합니다. 예: 느린 프로젝트 응답 시간, 프로젝트가 해결할 수 있는 요청 수 프로젝트 병목 현상, 느린 프로젝트 쿼리 데이터 및 기타 문제가 줄어들 때마다 일단 감지되면 이를 조정해야 합니다. 즉, 프로젝트 인터페이스의 응답 시간이 10초를 초과하고 일련의 조치가 취해지지 않으면 이는 다음과 같습니다. 프로젝트에 문제가 있고, 성능 튜닝의 목적은 프로젝트를 더 최적화하고, RT(실행 응답 시간)를 더 작게 만들고, TPS(처리량 - "초당 데이터베이스에서 받는 요청 수")를 더 크게 만드는 것입니다.

일반적으로 JMeter 또는 K8s는 기업에서 사용됩니다. 일부 기업은 프로젝트가 작성된 후 자체 스트레스 테스트 플랫폼을 구축하고 프로젝트에 대한 스트레스 테스트를 수행합니다. 요청 데이터를 기반으로 대략적인 판단을 내리기 위해 개발자는 이러한 요구 사항을 기반으로 인터페이스를 작성해야 하며, 인터페이스 응답 시간이 설정된 데이터를 초과하고 프로젝트가 이러한 대규모 요청을 지원할 수 없는 경우에는 프로젝트 및 프로젝트 인터페이스 튜닝을 위해 데이터베이스, 컨테이너, 캐시 등을 개발하는 데 필요합니다.

2. 서비스 컨테이너 성능 튜닝

2.1 SpringBoot에서 컷인 Tomcat 튜닝: 최대 스레드 수 최적화

튜닝 지침:

maxThreads 최대 스레드 수: 웹 서버가 수행할 수 있는 작업 수를 측정합니다. 동시에 처리

accept-count 최대 대기 수: Queue최대 허용 대기 수. 요청을 거부하려면 초과되었습니다.

최대 연결 수: 동시에 최대 연결 수입니다.

링크 수가 최대치에 도달하면 계속 요청하고 대기합니다. 최대 대기 시간을 초과하면 거부됩니다.

SpringBoot의 최대 스레드 수는 200개입니다. 많은 경우 최대 스레드 수 200개로는 충분하지 않습니다. 일반적으로 1cpu2G의 서버 구성은 200으로 설정되고, 4cpu8G의 서버 구성은 800으로 설정됩니다. , 이는 TPS를 크게

향상시키고 RT를 줄일 수 있습니다.

설정 조정

application.yml 구성 파일을 수정하세요

# Tomcat的 maxConnections、maxThreads、acceptCount三大配置，
#分别表示最大连接数，最大线程数、最大的等待数，可以通过application.yml配置文件来改变这个三个值，一个标
#准的示例如下：
server.tomcat.uri-encoding: UTF-8
# 思考问题：一台服务器配置多少线程合适？
server.tomcat.accept-count: 1000 # 等待队列最多允许1000个请求在队列中等待
server.tomcat.max-connections: 20000 # 最大允许20000个链接被建立
## 最大工作线程数，默认200, 4核8g内存，线程数经验值800
server.tomcat.threads.max: 800 # 并发处理创建的最大的线程数量
server.tomcat.threads.min-spare: 100 # 最大空闲连接数，防止突发流量

수정된 구성이 적용되는지 확인하세요.

SpringBoot의 구성을 사용하여 지금 구성 파일에

# 暴露所有的监控点
management.endpoints.web.exposure.include: '*'
# 定义Actuator访问路径
management.endpoints.web.base-path: /actuator
# 开启endpoint 关闭服务功能
management.endpoint.shutdown.enabled: true

• 를 추가하여 구성이 적용되는지 확인할 수 있습니다. ip: port/actuator

• Tomcat 검색

2.2 네트워크 IO 모델 tune

Network io는 시스템 파일 읽기 및 쓰기 io입니다. 시스템은 실제로 NIO2(초고성능, 비동기, 비차단)를 기본으로 내장하고 있습니다. NIO2 API를 호출해야 하지만 이 부분은 시스템에 따라 다릅니다. 예를 들어 Linux는 AIO를 지원합니다

사실 AIO는 NIO에 대한 지원을 향상시킵니다. 파일 처리 및 파일 시스템 기능. 시스템이 AIO를 사용한 후에는 응답 시간이 줄어들고 안정적입니다.

설정 조정

프로젝트 코드의 Java 클래스에 직접 넣어 Java 구성 클래스를 생성하세요

@Configuration
    public class TomcatConfig {
        //自定义SpringBoot嵌入式Tomcat
        @Bean
        public TomcatServletWebServerFactory servletContainer() {
            TomcatServletWebServerFactory tomcat = new
                TomcatServletWebServerFactory() {};
            tomcat.addAdditionalTomcatConnectors(http11Nio2Connector());
            return tomcat;
        }
        //配置连接器nio2
        public Connector http11Nio2Connector() {
            Connector connector=new
                Connector("org.apache.coyote.http11.Http11Nio2Protocol");
            Http11Nio2Protocol nio2Protocol = (Http11Nio2Protocol)
                                               connector.getProtocolHandler();
            //等待队列最多允许1000个线程在队列中等待
            nio2Protocol.setAcceptCount(1000);
            // 设置最大线程数
            nio2Protocol.setMaxThreads(1000);
            // 设置最大连接数
            nio2Protocol.setMaxConnections(20000);
            //定制化keepalivetimeout,设置30秒内没有请求则服务端自动断开keepalive链接
            nio2Protocol.setKeepAliveTimeout(30000);
            //当客户端发送超过10000个请求则自动断开keepalive链接
            nio2Protocol.setMaxKeepAliveRequests(10000);
            // 请求方式
            connector.setScheme("http");
            connector.setPort(9003); //自定义的端口，与源端口9001可以共用，知识改了连接器而已
            connector.setRedirectPort(8443);
            return connector;
        }
    }

• 구성이 적용되는지 확인하세요: ip:9003/calling 인터페이스

설명: Tomcat에는 apr이라는 모드가 자동으로 활성화됩니다. 위에서는 다른 방법이 사용되지만 일반적으로 이 부분은 모든 시스템이 AIO를 지원하는 것은 아니기 때문에 예비적인 이해일 뿐입니다.

2.3 컨테이너 최적화 Tomcat 업그레이드 Undertow

Tomcat은 SpringBoot에 내장되어 있지만 실제로 SpringBoot에는 Tomcat(성숙하고 안정적인 고성능 서버), Apache 개발, Jetty(경량, 빠르고 유연함), Undertwo(고성능, 고성능 서버)의 세 가지 내장 서버가 있습니다. 높은 유연성).

Spring Boot에서는 기본적으로 Tomcat이 내장 웹 서버로 사용됩니다. 구성 파일에서 적절하게 구성하고 Jetty 또는 Undertow를 사용하도록 선택할 수도 있습니다.

구성 작업 프로세스:

• spring-boot-starter-web에서 tomcat 제외

<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-web</artifactId>
  <exclusions>
    <exclusion>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-tomcat</artifactId>
    </exclusion>
  </exclusions>
</dependency

다른 컨테이너의 스타터 가져오기

<!--导入undertow容器依赖-->
<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-undertow</artifactId>
</dependency>

• Configuration

# 设置IO线程数, 它主要执行非阻塞的任务,它们会负责多个连接
server.undertow.threads.io: 800
# 阻塞任务线程池, 当执行类似servlet请求阻塞IO操作, undertow会从这个线程池中取得线程
# 默认值是IO线程数*8
server.undertow.threads.worker: 8000
# 以下的配置会影响buffer,这些buffer会用于服务器连接的IO操作,有点类似netty的池化内存管理
# 每块buffer的空间大小越小，空间就被利用的越充分，不要设置太大，以免影响其他应用，合适即可
server.undertow.buffer-size: 1024
# 每个区分配的buffer数量 , 所以pool的大小是buffer-size * buffers-per-region
# 是否分配的直接内存(NIO直接分配的堆外内存)
server.undertow.direct-buffers: true

위 내용은 Java 서버 컨테이너 튜닝 방법은 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!