mysql 수천만 데이터 페이징 쿼리 성능 최적화_Mysql
MySQL은 데이터 양이 많을 때 제한 페이징을 사용합니다. 페이지 수가 증가하면 쿼리 효율성이 떨어집니다. 이 기사는 mysql을 사용하여 수천만 개의 데이터로 페이징 쿼리를 수행할 때 저자의 성능 최적화 방법을 공유합니다. 매우 좋은 기사이며 모든 사람에게 도움이 되기를 바랍니다.
실험
1. Limit start, count 페이징 문을 직접 사용:
select * from order Limit start, count
select * from order limit start, count
当起始页较小时,查询没有性能问题,我们分别看下从10, 100, 1000, 10000开始分页的执行时间(每页取20条), 如下:
select * from order limit 10, 20 0.016秒 select * from order limit 100, 20 0.016秒 select * from order limit 1000, 20 0.047秒 select * from order limit 10000, 20 0.094秒
我们已经看出随着起始记录的增加,时间也随着增大, 这说明分页语句limit跟起始页码是有很大关系的,那么我们把起始记录改为40w看下
select * from order limit 400000, 20 3.229秒
再看我们取最后一页记录的时间
select * from order limit 800000, 20 37.44秒
显然这种时间是无法忍受的。
从中我们也能总结出两件事情:
1)limit语句的查询时间与起始记录的位置成正比
2)mysql的limit语句是很方便,但是对记录很多的表并不适合直接使用。
2.对limit分页问题的性能优化方法
利用表的覆盖索引来加速分页查询
我们都知道,利用了索引查询的语句中如果只包含了那个索引列(覆盖索引),那么这种情况会查询很快。
因为利用索引查找有优化算法,且数据就在查询索引上面,不用再去找相关的数据地址了,这样节省了很多时间。另外Mysql中也有相关的索引缓存,在并发高的时候利用缓存就效果更好了。
在我们的例子中,我们知道id字段是主键,自然就包含了默认的主键索引。现在让我们看看利用覆盖索引的查询效果如何:
这次我们之间查询最后一页的数据(利用覆盖索引,只包含id列),如下:
select id from order limit 800000, 20 0.2秒
相对于查询了所有列的37.44秒,提升了大概100多倍的速度
那么如果我们也要查询所有列,有两种方法,一种是id>=的形式,另一种就是利用join,看下实际情况:
SELECT * FROM order WHERE ID > =(select id from order limit 800000, 1) limit 20
查询时间为0.2秒,简直是一个质的飞跃啊,哈哈
另一种写法
SELECT * FROM order a JOIN (select id from order limit 800000, 20) b ON a.ID = b.id
우리는 시작 레코드가 늘어나면 시간도 늘어나는데 이는 페이징 문 제한이 시작 페이지 번호와 밀접한 관련이 있음을 보여주므로 시작 레코드를 40w로 변경하여 살펴보겠습니다
주문 제한에서 *를 선택하세요 400000, 20 3.229초
기록의 마지막 페이지를 가져오는 데 걸린 시간을 보세요
주문 제한 800000, 20 37.44초에서 *를 선택하세요
분명히 이런 시간입니다 참을 수 없습니다.
이로부터 두 가지 결론을 내릴 수도 있습니다. 1) 제한 문의 쿼리 시간은 시작 레코드의 위치에 비례합니다.
🎜2) mysql의 제한 문은 매우 편리하지만 적합하지 않습니다. 레코드가 많은 테이블을 직접 사용하세요. 🎜🎜2. 제한 페이징 문제에 대한 성능 최적화 방법🎜🎜페이징 쿼리 속도를 높이려면 테이블의 커버링 인덱스를 사용하세요🎜🎜인덱스 쿼리를 사용하는 명령문에 해당 인덱스 열(커버링 인덱스)만 포함되어 있으면 이 상황은 신속하게 쿼리됩니다. 🎜🎜인덱스 검색에는 최적화 알고리즘이 있고, 쿼리 인덱스에 데이터가 있기 때문에 해당 데이터 주소를 찾을 필요가 없어 시간이 많이 절약됩니다. 게다가 MySQL에도 관련 인덱스 캐시가 있는데, 동시성이 높을 때 캐시를 사용하는 것이 좋습니다. 🎜🎜이 예에서는 id 필드가 기본 키라는 것을 알고 있으므로 기본 기본 키 인덱스가 자연스럽게 포함됩니다. 이제 커버링 인덱스를 사용한 쿼리가 어떻게 수행되는지 살펴보겠습니다. 🎜🎜이번에는 다음과 같이 마지막 페이지의 데이터를 쿼리합니다(커버링 인덱스 사용, id 열만 포함). 🎜🎜주문 제한에서 ID 선택 800000 , 20 0.2초
🎜🎜전체 열을 쿼리하는 데 걸리는 37.44초에 비해 속도는 약 100배 향상됩니다🎜🎜그래서 모든 열도 쿼리하려면 두 가지 방법이 있는데 하나는 id> = 0.2초라는 형태는 단순히 질적 도약이군요 ㅎㅎ🎜🎜또 다른 표현으로🎜🎜SELECT * FROM order a JOIN (주문 제한 800000, 20에서 id 선택) b ON a.ID = b. id
🎜🎜쿼리 시간도 매우 짧습니다. 🎜🎜아직 배우셨나요? 서둘러서 사용해 보세요. 🎜🎜관련 권장 사항: 🎜🎜🎜mysql 수천만 개의 데이터 쿼리🎜🎜🎜🎜mysql 수천만 개의 통계 비교_MySQL🎜🎜🎜🎜MySQL 백만 단위 페이징 최적화(Mysql 수천만 개의 빠른 페이징)_MySQL🎜🎜위 내용은 mysql 수천만 데이터 페이징 쿼리 성능 최적화_Mysql의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

AI Hentai Generator
AI Hentai를 무료로 생성하십시오.

인기 기사

뜨거운 도구

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경

드림위버 CS6
시각적 웹 개발 도구

SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)

뜨거운 주제











빅 데이터 구조 처리 기술: 청킹(Chunking): 데이터 세트를 분할하고 청크로 처리하여 메모리 소비를 줄입니다. 생성기: 전체 데이터 세트를 로드하지 않고 데이터 항목을 하나씩 생성하므로 무제한 데이터 세트에 적합합니다. 스트리밍: 파일을 읽거나 결과를 한 줄씩 쿼리하므로 대용량 파일이나 원격 데이터에 적합합니다. 외부 저장소: 매우 큰 데이터 세트의 경우 데이터를 데이터베이스 또는 NoSQL에 저장합니다.

선형 복잡성에서 로그 복잡성까지 조회 시간을 줄이는 인덱스를 구축하여 MySQL 쿼리 성능을 최적화할 수 있습니다. SQL 삽입을 방지하고 쿼리 성능을 향상하려면 PREPAREDStatements를 사용하세요. 쿼리 결과를 제한하고 서버에서 처리되는 데이터의 양을 줄입니다. 적절한 조인 유형 사용, 인덱스 생성, 하위 쿼리 사용 고려 등 조인 쿼리를 최적화합니다. 쿼리를 분석하여 병목 현상을 식별하고, 캐싱을 사용하여 데이터베이스 로드를 줄이고, 오버헤드를 최소화합니다.

PHP에서 MySQL 데이터베이스를 백업하고 복원하는 작업은 다음 단계에 따라 수행할 수 있습니다. 데이터베이스 백업: mysqldump 명령을 사용하여 데이터베이스를 SQL 파일로 덤프합니다. 데이터베이스 복원: mysql 명령을 사용하여 SQL 파일에서 데이터베이스를 복원합니다.

MySQL 테이블에 데이터를 삽입하는 방법은 무엇입니까? 데이터베이스에 연결: mysqli를 사용하여 데이터베이스에 대한 연결을 설정합니다. SQL 쿼리 준비: 삽입할 열과 값을 지정하는 INSERT 문을 작성합니다. 쿼리 실행: query() 메서드를 사용하여 삽입 쿼리를 실행하면 확인 메시지가 출력됩니다.

MySQL 8.4(2024년 최신 LTS 릴리스)에 도입된 주요 변경 사항 중 하나는 "MySQL 기본 비밀번호" 플러그인이 더 이상 기본적으로 활성화되지 않는다는 것입니다. 또한 MySQL 9.0에서는 이 플러그인을 완전히 제거합니다. 이 변경 사항은 PHP 및 기타 앱에 영향을 미칩니다.

PHP에서 MySQL 저장 프로시저를 사용하려면: PDO 또는 MySQLi 확장을 사용하여 MySQL 데이터베이스에 연결합니다. 저장 프로시저를 호출하는 문을 준비합니다. 저장 프로시저를 실행합니다. 결과 집합을 처리합니다(저장 프로시저가 결과를 반환하는 경우). 데이터베이스 연결을 닫습니다.

PHP를 사용하여 MySQL 테이블을 생성하려면 다음 단계가 필요합니다. 데이터베이스에 연결합니다. 데이터베이스가 없으면 작성하십시오. 데이터베이스를 선택합니다. 테이블을 생성합니다. 쿼리를 실행합니다. 연결을 닫습니다.

Oracle 데이터베이스와 MySQL은 모두 관계형 모델을 기반으로 하는 데이터베이스이지만 호환성, 확장성, 데이터 유형 및 보안 측면에서 Oracle이 우수하고, MySQL은 속도와 유연성에 중점을 두고 중소 규모 데이터 세트에 더 적합합니다. ① Oracle은 광범위한 데이터 유형을 제공하고, ② 고급 보안 기능을 제공하고, ③ 엔터프라이즈급 애플리케이션에 적합하고, ① MySQL은 NoSQL 데이터 유형을 지원하고, ② 보안 조치가 적고, ③ 중소 규모 애플리케이션에 적합합니다.
