php教程 php手册 php导入大量数据到mysql性能优化

php导入大量数据到mysql性能优化

Jun 13, 2016 am 10:09 AM
mysql php 최적화 존재하다 수입 성능 우리를 묶음 데이터 문서 결합하다

在mysql中我们结合php把一些文件导入到mysql中,下面我来分享我对15000条记录进行导入时分析与优化,各位朋友可参考。


之前有几篇文章,说了最近tiandi在帮朋友做一个小项目,用于统计电话号码的,每次按需求从数据库里随机生成打包的电话号码,然后不停地让人打这些电话号码推销产品(小小鄙视一下这样的行为)。但是朋友要求帮忙,咱也不能不帮啊,是吧。程序两个星期前已经做好,测试完毕交工。前几天朋友来电说,每天导入电话号码的时间越来越长,有时候一万条记录就要半个小时以上,看看能不能想办法提高一下这个速度。

我理了一下思路,数据库结构很简单,可以认为就两个字段,一个字段存电话号码,另一字段存类别,类别分别为c,d,e等等,分别代表已经拨通过此电话,未拨通过此电话,未拨打过此电话等等状态,而整个程序逻辑是这样的:

■拿到一个txt文件,里面存的是电话号码
■通过程序将txt文件导入到mysql里
■导入的时候,检测txt里的电话号码是否和mysql里的重复,如果不重复,直接插入新记录,如果重复,就需要按照判断电话号码所属类别来进行更新。
由于每个txt里的电话号码导入时,都需要做一次比较,所以程序肯定会耗时一些,这里我们先撇开这个原因,因为本文章的标题是优化写入速度,那么程序什么时候会写入记录呢?通过上面的逻辑得知,在匹配数据库时,没有发现存在记录时会发生写入数据库操作(当然update也算,只是这里只讨论insert)。那么将上述逻辑转化为代码,差不多如下:

 代码如下 复制代码

//$array为txt文件explode出来的数组,每一个为一个电话号码, $str为类型
for($i=0; $i     {
        $tmpstr = "'". $array[$i] ."','". $str ."'";
        $sql="INSERT INTO ".$usertable." (tel,type) VALUES (".$tmpstr.")";
        mysql_query($sql);
    }

以上代码完全正确,但是效率低下,当txt文件里包含了上万个电话号码时,即会有上万次的插入数据库操作,虽然每次的数据库写入操作都是很快的,但是上万条累计下来,这个执行时间不容忽视。tiandi简单的测试了一下插入15000万条记录,耗时差不多5分钟。如果再加上之前的逻辑判断等等过程,那么半个小时还真得不算少了。这样可不行,必须减少数据库库写入次数才对,于是上面代码变更为以下:

 代码如下 复制代码

$sql2="INSERT INTO ".$usertable." (tel,type,updatetime) VALUES";
for($i=0; $i     {
        $tmpstr = "'". $array[$i] ."','". $str ."'";
 $sql2 .= "(".$tmpstr."),";
    }
$sql2 = substr($sql2,0,-1);   //去除最后的逗号
mysql_query($sql2);

这样,整个写入操作只有1次,大大地缩短了执行时间,差不多10秒就搞定了15000条记录。好了,本文到此结束,如果你也遇上写入大量数据到mysql耗时长的问题时,不如试试本文的优化方式。

본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

인기 기사

R.E.P.O. 에너지 결정과 그들이하는 일 (노란색 크리스탈)
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 최고의 그래픽 설정
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 아무도들을 수없는 경우 오디오를 수정하는 방법
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌

뜨거운 도구

메모장++7.3.1

메모장++7.3.1

사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

SublimeText3 Mac 버전

SublimeText3 Mac 버전

신 수준의 코드 편집 소프트웨어(SublimeText3)

MySQL을 설치할 때 누락 된 종속성 문제를 해결하는 방법 MySQL을 설치할 때 누락 된 종속성 문제를 해결하는 방법 Apr 08, 2025 pm 12:00 PM

MySQL 설치 실패는 일반적으로 종속성 부족으로 인해 발생합니다. 솔루션 : 1. 시스템 패키지 관리자 (예 : Linux Apt, YUM 또는 DNF, Windows VisualC 재분배 가능)를 사용하여 Sudoaptinstalllibmysqlclient-dev와 같은 누락 된 종속성 라이브러리를 설치하십시오. 2. 오류 정보를주의 깊게 확인하고 복잡한 종속성을 하나씩 해결하십시오. 3. 패키지 관리자 소스가 올바르게 구성되어 네트워크에 액세스 할 수 있는지 확인하십시오. 4. Windows의 경우 필요한 런타임 라이브러리를 다운로드하여 설치하십시오. 공식 문서를 읽고 검색 엔진을 잘 활용하는 습관을 개발하면 문제를 효과적으로 해결할 수 있습니다.

Laravel 's geospatial : 대화식지도의 최적화 및 많은 양의 데이터 Laravel 's geospatial : 대화식지도의 최적화 및 많은 양의 데이터 Apr 08, 2025 pm 12:24 PM

7 백만 레코드를 효율적으로 처리하고 지리 공간 기술로 대화식지도를 만듭니다. 이 기사는 Laravel과 MySQL을 사용하여 7 백만 개 이상의 레코드를 효율적으로 처리하고 대화식지도 시각화로 변환하는 방법을 살펴 봅니다. 초기 챌린지 프로젝트 요구 사항 : MySQL 데이터베이스에서 7 백만 레코드를 사용하여 귀중한 통찰력을 추출합니다. 많은 사람들이 먼저 프로그래밍 언어를 고려하지만 데이터베이스 자체를 무시합니다. 요구 사항을 충족시킬 수 있습니까? 데이터 마이그레이션 또는 구조 조정이 필요합니까? MySQL이 큰 데이터로드를 견딜 수 있습니까? 예비 분석 : 주요 필터 및 속성을 식별해야합니다. 분석 후, 몇 가지 속성만이 솔루션과 관련이 있음이 밝혀졌습니다. 필터의 타당성을 확인하고 검색을 최적화하기위한 제한 사항을 설정했습니다. 도시를 기반으로 한지도 검색

AWS Blue/Green Deployment를 사용하여 다운 타임이없는 MySQL RDS 데이터베이스 저장 감소 AWS Blue/Green Deployment를 사용하여 다운 타임이없는 MySQL RDS 데이터베이스 저장 감소 Apr 08, 2025 pm 12:42 PM

DevOps 엔지니어는 종종 RDS 데이터베이스 최적화 및 업데이트, 특히 전통적인 방법이 다운 타임 위험이 발생하기 쉬운 높은로드 상황에서 업데이트의 과제에 직면합니다. 이 기사에서는 RDS 데이터베이스의 제로 다운 타임 업데이트를 달성하기 위해 AWS Blue/Green Deployment 전략을 소개합니다. 데이터베이스 업데이트 다운 타임의 악몽에 작별 인사를하십시오! 이 기사는 Blue/Green 배포 전략을 자세히 설명하고 AWS 환경에서 운영 단계를 제공하여 서비스 가용성에 영향을 미치지 않고 RDS 데이터베이스 인스턴스를 업데이트 할 수 있도록합니다. 먼저 준비 팀을 조정하고 업데이트를 위해 작업량 트래픽이 가장 낮은 기간을 선택하십시오. 좋은 DevOps는 팀에 미리 알리는 조언을 연습합니다. 이 예제는 Blue/Green 배포를 사용하여 다운 타임이 0으로 데이터베이스 인스턴스 저장 공간을 줄이는 방법을 보여줍니다. AWSRDS 콘솔을 사용할 수 있습니다

MySQL 설치 후 데이터베이스 성능을 최적화하는 방법 MySQL 설치 후 데이터베이스 성능을 최적화하는 방법 Apr 08, 2025 am 11:36 AM

MySQL 성능 최적화는 설치 구성, 인덱싱 및 쿼리 최적화, 모니터링 및 튜닝의 세 가지 측면에서 시작해야합니다. 1. 설치 후 innodb_buffer_pool_size 매개 변수와 같은 서버 구성에 따라 my.cnf 파일을 조정해야합니다. 2. 과도한 인덱스를 피하기 위해 적절한 색인을 작성하고 Execution 명령을 사용하여 실행 계획을 분석하는 것과 같은 쿼리 문을 최적화합니다. 3. MySQL의 자체 모니터링 도구 (showprocesslist, showstatus)를 사용하여 데이터베이스 건강을 모니터링하고 정기적으로 백업 및 데이터베이스를 구성하십시오. 이러한 단계를 지속적으로 최적화함으로써 MySQL 데이터베이스의 성능을 향상시킬 수 있습니다.

설치 후 MySQL을 사용하는 방법 설치 후 MySQL을 사용하는 방법 Apr 08, 2025 am 11:48 AM

이 기사는 MySQL 데이터베이스의 작동을 소개합니다. 먼저 MySQLworkBench 또는 명령 줄 클라이언트와 같은 MySQL 클라이언트를 설치해야합니다. 1. MySQL-Uroot-P 명령을 사용하여 서버에 연결하고 루트 계정 암호로 로그인하십시오. 2. CreateABase를 사용하여 데이터베이스를 작성하고 데이터베이스를 선택하십시오. 3. CreateTable을 사용하여 테이블을 만들고 필드 및 데이터 유형을 정의하십시오. 4. InsertInto를 사용하여 데이터를 삽입하고 데이터를 쿼리하고 업데이트를 통해 데이터를 업데이트하고 DELETE를 통해 데이터를 삭제하십시오. 이러한 단계를 마스터하고 일반적인 문제를 처리하는 법을 배우고 데이터베이스 성능을 최적화하면 MySQL을 효율적으로 사용할 수 있습니다.

특정 시스템 버전에서 MySQL이보고 한 오류에 대한 솔루션 특정 시스템 버전에서 MySQL이보고 한 오류에 대한 솔루션 Apr 08, 2025 am 11:54 AM

MySQL 설치 오류에 대한 솔루션은 다음과 같습니다. 1. MySQL 종속성 라이브러리 요구 사항이 충족되도록 시스템 환경을주의 깊게 확인하십시오. 다른 운영 체제 및 버전 요구 사항이 다릅니다. 2. 오류 메시지를주의 깊게 읽고 프롬프트 (예 : 라이브러리 파일 누락 또는 부족한 권한)에 따라 종속성 설치 또는 Sudo 명령 사용과 같은 해당 조치를 취합니다. 3. 필요한 경우 소스 코드를 설치하고 컴파일 로그를주의 깊게 확인하십시오. 그러나 일정량의 Linux 지식과 경험이 필요합니다. 궁극적으로 문제를 해결하는 핵심은 시스템 환경 및 오류 정보를 신중하게 확인하고 공식 문서를 참조하는 것입니다.

MySQL 설치 후 데이터베이스의 원격 연결을 구현하는 방법 MySQL 설치 후 데이터베이스의 원격 연결을 구현하는 방법 Apr 08, 2025 am 11:33 AM

MySQL 원격 연결 : MySQL을 설치 한 후 원격 연결 문제에 직면 할 많은 친구들에게 포기 (실수)에 이르기까지. 이 기사는 단순한 "연결 방법"을 가르쳐주지 않지만,이 겉보기에 간단한 문제 뒤에 숨겨져있는 함정과 그것들을 우아하게 해결하고 궁극적으로 "숙달"상태에 도달하는 방법을 심층적으로 탐구합니다 (물론 숙달은 지속적인 학습 과정입니다). 목적 : MySQL 원격 연결의 원칙을 철저히 이해하고 일반적인 트랩에 빠지지 않도록 다양한 시나리오에서 모범 사례를 마스터하겠습니다. 이 기사를 읽은 후에는 다양한 원격 연결 문제를 독립적으로 해결하고 MySQL의 보안 구성에 대해 더 깊이 이해할 수 있습니다. 개요 : MySQL 구성으로 시작합니다.

MySQL 설치 중에 권한이 충분하지 않은 경우해야 할 일 MySQL 설치 중에 권한이 충분하지 않은 경우해야 할 일 Apr 08, 2025 am 11:42 AM

MySQL 설치 권한 문제는 일반적으로 다음과 같은 이유로 인해 발생합니다. 1. 일반 사용자는 Root 또는 Sudo 권한을 사용하여 설치해야합니다. 2. 파일 권한이 부족하면 CHMOD 명령을 사용하여 MySQL 설치 디렉토리 및 데이터 파일 디렉토리의 권한을 수정해야합니다. 3. 3306 포트가 점유되므로 NetStat 명령을 사용하여 포트 점유 서비스를보고 중지하거나 MySQL 구성 파일을 수정해야합니다. 4. SELINUX 또는 APPARMOR 보안 메커니즘 제한을 제한하면 일시적으로 비활성화하거나 올바르게 구성 할 수 있습니다. 안전하고 안정적인 시스템 환경을 구축하기 위해 Sudo를 사용하여 문제를 우회하는 것이 아니라 권한 관리 메커니즘을 이해해야합니다.

See all articles