首頁 > 後端開發 > Golang > 如何對海量 JSON 數組進行串流解碼以避免記憶體問題?

如何對海量 JSON 數組進行串流解碼以避免記憶體問題?

Susan Sarandon
發布: 2024-12-17 10:48:25
原創
291 人瀏覽過

How Can I Stream Decode Massive JSON Arrays to Avoid Memory Issues?

大規模JSON 數組的流式解碼

使用Unmarshal 時,從文件中檢索大型JSON 數組可能會佔用大量內存,因為它會載入整個數組資料立即存入記憶體。為了解決這個問題,我們可以利用流技術逐個元素地處理陣列。

使用流解碼器的範例

encoding/json 套件提供了流式 JSON 的解決方案加工。以下是套件文件中的擴充範例:

package main

import (
    "encoding/json"
    "fmt"
    "log"
    "strings"
)

func main() {
    const jsonStream = `
                [
                    {"Name": "Ed", "Text": "Knock knock."},
                    {"Name": "Sam", "Text": "Who's there?"},
                    {"Name": "Ed", "Text": "Go fmt."},
                    {"Name": "Sam", "Text": "Go fmt who?"},
                    {"Name": "Ed", "Text": "Go fmt yourself!"}
                ]
            `
    type Message struct {
        Name, Text string
    }
    dec := json.NewDecoder(strings.NewReader(jsonStream))

    // read open bracket
    t, err := dec.Token()
    if err != nil {
        log.Fatal(err)
    }
    fmt.Printf("%T: %v\n", t, t)

    // while the array contains values
    for dec.More() {
        var m Message
        // decode an array value (Message)
        err := dec.Decode(&m)
        if err != nil {
            log.Fatal(err)
        }

        fmt.Printf("%v: %v\n", m.Name, m.Text)
    }

    // read closing bracket
    t, err = dec.Token()
    if err != nil {
        log.Fatal(err)
    }
    fmt.Printf("%T: %v\n", t, t)

}
登入後複製

在此範例中,我們建立一個串流解碼器 (dec) 並在迴圈中使用 dec.More() 來迭代陣列元素。每個訊息都會被解碼並列印其內容,而無需將整個陣列載入到記憶體中。

以上是如何對海量 JSON 數組進行串流解碼以避免記憶體問題?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
作者最新文章
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板