for 루프를 사용하여 데이터를 하나씩 삽입합니다. user(name,pwd) 값('aa','123'),('cc '에 삽입하는 것과 유사합니다. ,'123')...
이 솔루션의 장점은 JDBC의 ReadyStatement에 사전 컴파일 기능이 있으며 사전 컴파일 후에 캐시된다는 점입니다. -편집. 이후에는 SQL 실행이 더 빨라지고 JDBC에서는 일괄 처리 실행이 매우 강력해집니다.
단점은 SQL 서버와 애플리케이션 서버가 동일하지 않을 수 있으므로 네트워크 IO를 고려해야 한다는 것입니다. 네트워크 IO에 시간이 많이 걸리는 경우 SQL 실행 속도가 느려질 수 있습니다.
이 옵션의 장점은 네트워크 IO가 하나만 있다는 것입니다. 샤딩조차도 소수의 네트워크 IO에 불과하므로 이 솔루션은 네트워크 IO에 너무 많은 시간을 소비하지 않습니다.
물론 이 솔루션에도 단점이 있습니다. 첫째, SQL이 너무 길어서 샤딩 후 일괄 처리가 필요할 수도 있습니다. 둘째, ReadyStatement 사전 컴파일의 장점을 완전히 활용할 수 없으며, SQL을 다시 구문 분석해야 하며, 셋째, 최종 생성된 SQL을 재사용할 수 없습니다. 너무 길어서 데이터베이스 관리자가 이를 구문 분석해야 합니다. 이렇게 긴 SQL에도 시간이 걸립니다.
다음에는 두 번째 솔루션을 사용하여 구현하겠습니다.
삽입 효율성을 높이려면 하나씩 삽입할 수 없습니다. 일괄 삽입에는 foreach를 사용해야 합니다.
성능을 향상하려면 멀티스레딩을 사용하세요. 한 번에 여러 개의 삽입 작업을 제출하는 것은 불가능합니다. 많은 수의 삽입 작업은 시간이 많이 걸리며 이를 달성하기 위해 타이밍 작업을 사용할 수 있습니다.
다음으로 이를 구현하기 위해 코드를 사용하는 방법에 대해 이야기해 보겠습니다.
3. 코드 구현
1. 종속성 가져오기
<parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.3.4.RELEASE</version> </parent> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>mysql</groupId> <artifactId>mysql-connector-java</artifactId> <version>5.1.48</version> </dependency> <dependency> <groupId>org.mybatis.spring.boot</groupId> <artifactId>mybatis-spring-boot-starter</artifactId> <version>2.1.0</version> </dependency> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> </dependency> </dependencies>
@SpringBootApplication //引导类核心注解 @EnableScheduling //开启定时任务 public class BatchApplication { public static void main(String[] args) { SpringApplication.run(BatchApplication.class,args); } }
server: port: 9999 # 指定端口号 spring: datasource: driver-class-name: com.mysql.cj.jdbc.Driver url: jdbc:mysql://localhost:3306/springboot?useUnicode=true&characterEncoding=utf-8&useSSL=false&serverTimezone=UTC username: root password: 123 mybatis: mapper-locations: classpath:mybatis/*.xml #指定mapper映射文件路径 type-aliases-package: com.qfedu.model # 别名
CREATE TABLE `user` ( `id` INT(11) NOT NULL AUTO_INCREMENT, `username` VARCHAR(30) DEFAULT NULL, `pwd` VARCHAR(20) DEFAULT NULL, `sex` INT(11) DEFAULT NULL, `birthday` DATETIME DEFAULT NULL, PRIMARY KEY (`id`) ) ENGINE=MyISAM DEFAULT CHARSET=utf8
User.java
@Data public class User { private int id; private String username; private String pwd; private int sex; private LocalDate birthday; }
UserMapper.java
@Mapper public interface UserMapper { void insertBatch(@Param("userList") List<User> userList); }
UserMapper.xml
<?xml version="1.0" encoding="UTF-8" ?> <!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd"> <mapper namespace="com.qfedu.mapper.UserMapper"> <insert id="addList" parameterType="User" > insert into user (username,pwd,sex,birthday) values <foreach collection="list" item="item" separator=","> (#{item.username}, #{item.pwd}, #{item.sex}, #{item.birthday}) </foreach> </insert> </mapper>
부팅 클래스에 @EnableScheduling 주석을 추가하여 예약된 작업을 활성화합니다.
8. 스레드 풀 구성스레드 풀 매개변수:@Component public class UserServiceImpl { @Autowired private UserMapper userMapper; @Autowired //线程池 private ThreadPoolExecutor executor; @Scheduled(cron = "0/20 * * * * ?") //每隔20秒执行一次 public void addList(){ System.out.println("定时器被触发"); long start = System.currentTimeMillis(); for (int i = 0; i < 7; i++) { Thread thread = new Thread(() -> { try { for (int j = 0; j < 20; j++) { userMapper.addList(UserUtil.getUsers(5000)); } } catch (Exception e) { e.printStackTrace(); } }); try { executor.execute(thread); } catch (Exception e) { System.out.println(e.getMessage()); } } } }로그인 후 복사7.객체 생성 유틸리티
실제 사업 개발 시 엑셀에서 가져올 데이터 생성을 시뮬레이션하는 데 사용합니다.
public class UserUtil { private static Random random = new Random(); public static List<User> getUsers(int num){ List<User> users = new ArrayList<>(); for (int i = 0;i<num;i++){ User user = new User(); user.setBirthday(LocalDate.now()); user.setSex(random.nextInt(2)); user.setPwd("123"+random.nextInt(100000)); user.setUsername("batch"+random.nextInt(num)); users.add(user); } return users; } }로그인 후 복사
corePoolSize 코어 스레드 수, 스레드 풀에서 보장되는 최소 스레드 수
keepAliveTime은 스레드가 유휴 상태일 때 스레드를 재활용하는 데 걸리는 시간을 보장합니다.
단위는 시간 단위인 keepAliveTime과 함께 사용됩니다. , 작업이 실행되기 전에 작업을 저장하는 데 사용됩니다.@Configuration public class ThreadPoolExecutorConfig { @Bean public ThreadPoolExecutor threadPoolExecutor() { //线程池中6个线程,最大8个线程,用于缓存任务的阻塞队列数5个 ThreadPoolExecutor executor = new ThreadPoolExecutor(6, 8, 5, TimeUnit.SECONDS, new ArrayBlockingQueue<>(100)); executor.allowCoreThreadTimeOut(true);//允许超时 return executor; } }로그인 후 복사9. 완전한 프로젝트 구조
10. 테스트위 내용은 springboot+mybatis를 사용하여 대량의 데이터를 빠르게 삽입하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!