怎麼實現從資料查詢資料的時候判斷如果資料大於N條分次查詢遞迴嗎？-php教程-PHP中文網

怎麼實現從資料查詢資料的時候判斷如果資料大於N條分次查詢遞迴嗎？

WBOY

發布： 2023-03-03 08:10:02

原創

1308 人瀏覽過

例如資料庫有300000條資料現在根據條件查詢符合的有30000條資料一次取太多了可能慢或其他問題我想每次取10000 三次取完這只是個例子應該怎麼實現啊？用遞迴嗎？
告知下謝謝！！！
還有就是如果查倆張表的資料合併在一起還有辦法排序嗎根據某個欄位？

回覆內容：

謝邀，對於資料量較大的結果集，我目前一般會採用以下兩種方式處理。採用這兩種方式處理的目的是：一是減少資料集取得時頻寬資源的佔用，二是減少程式對結果集處理時記憶體的使用。

分塊，就是題主的思路

<code>$sql = 'SELECT xxx FROM table WHERE xxx LIMIT limit ：limit offset :offset';
$limit = 10000;
$offset = 0;
do{
    $stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_FWDONLY));
    $stmt->execute(array('：limit' => $limit, ':offset' => $offset));
    $data = $stmt->fetchAll();
    // 处理逻辑
    $offset += $limit;
}while(count($data));</code>

登入後複製

遊標，按行讀取回傳

<code>$sql = 'SELECT xxx FROM table WHERE xxx';
$stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_SCROLL));
$stmt->execute();
$row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_LAST);
do {
    // 处理逻辑 $row
} while ($row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_PRIOR));</code>

登入後複製

個人建議當你要找後面的分塊的時候，用where條件而不是直接limit 100000 , 100000：
二者區別舉例如下：

<code>//这个是第一种，取第20w开始的10w条数据
select * from table limit 100000 , 100000 order by id
//这是第二种取法
select * from table where id > 100000 limit 100000 order by id
因为mysql用limit越往后，排序之后取后面的越慢</code>

登入後複製

直接透過sql語句就能搞定呀，不需要後台處理；可以排序呀，根據你指定欄位order by就行了

連表查詢
例如：SELECT a.* from tableA as a, tableB as b where a.id = b.id order by a.id desc limit 0,10000";

你可以先select count(1) from table where 條件。看看總共有多少數據。大於N條的時候，
你再select * from table limit m,n 分頁查詢
2張表的話就
select * from table1 union all select * form table2 order by 某個欄位。注意查詢的列數量要一樣。最好類型也是一樣

假設表id均勻分佈的情況下，可以利用ID的區間來分段查詢資料

<code class="php">//每次计划读取的数据条数
$max_per_size = 10000;
//找到符合条件的最小ID和最大ID
$sql = "SELECT min(id),max(id) AS max_id AS num FROM `table` WHERE xx='xx'";
$stmt = $pdo->prepare($sql);
$stmt->execute();
$res = $stmt->fetch(PDO::FETCH_ASSOC);
//符合条件的最大ID
$max_id = $res['max_id'];
//符合条件的最小ID
$min_id = $res['min_id'];
$times = ceil(($max_id - $min_id + 1) / $max_per_size);
//第一次的ID区间
$current_min_id = $min_id;
$current_max_id = $min_id + $max_per_page;
for($i = 0; $i<$times; $i++) {
    //生成SQL语句
    $sql = "SELECT * FROM `table` WHERE xx='xx' AND (id>= {$current_min_id} AND id <= {$current_max_id})";
    //得到数据之后的操作
    //.........
    //重新计算下一次的ID区间
    $current_min_id = $current_max_id + 1;
    $current_max_id = $current_max_id + $max_per_page;
    if ($current_max_id > $max_id) {
        $current_max_id = $max_id;
    }
}</code>

登入後複製