Go を使用して大きなマルチパート/フォームデータ ファイルを AWS S3 に効率的にストリーミングするにはどうすればよいですか?

Linda Hamilton
リリース: 2024-11-09 06:43:02
オリジナル
722 人が閲覧しました

How can I stream large multipart/form-data files to AWS S3 efficiently with Go?

Go を使用して AWS S3 にファイルをアップロードする

大規模なマルチパート/フォームデータ ファイルを AWS S3 に直接ストリーミングすることは、ファイルを最小限に抑える効率的な方法です。

解決策

AWS SDK for Go のアップロード マネージャーを利用して、ファイルを S3 に直接ストリーミングします。以下に例を示します。

package main

import (
    "fmt"
    "os"

    "github.com/aws/aws-sdk-go/aws"
    "github.com/aws/aws-sdk-go/aws/credentials"
    "github.com/aws/aws-sdk-go/aws/session"
    "github.com/aws/aws-sdk-go/service/s3/s3manager"
)

var (
    filename      = "file_name.zip"
    myBucket      = "myBucket"
    myKey         = "file_name.zip"
    accessKey     = ""
    accessSecret  = ""
)

func main() {
    var awsConfig *aws.Config
    if accessKey == "" || accessSecret == "" {
        awsConfig = &aws.Config{
            Region: aws.String("us-west-2"),
        }
    } else {
        awsConfig = &aws.Config{
            Region:      aws.String("us-west-2"),
            Credentials: credentials.NewStaticCredentials(accessKey, accessSecret, ""),
        }
    }

    sess := session.Must(session.NewSession(awsConfig))
    uploader := s3manager.NewUploader(sess, func(u *s3manager.Uploader) {
        u.PartSize = 5 * 1024 * 1024
        u.Concurrency = 2
    })

    f, err := os.Open(filename)
    if err != nil {
        fmt.Printf("failed to open file %q, %v", filename, err)
        return
    }
    defer f.Close()

    result, err := uploader.Upload(&s3manager.UploadInput{
        Bucket: aws.String(myBucket),
        Key:    aws.String(myKey),
        Body:   f,
    })

    if err != nil {
        fmt.Printf("failed to upload file, %v", err)
        return
    }

    fmt.Printf("file uploaded to, %s\n", result.Location)
}
ログイン後にコピー

カスタマイズされたパラメータを備えたアップロード マネージャーを利用することで、パート サイズ、同時実行レベル、および最大アップロード パート数を構成して、ストリーミング プロセスを最適化できます。

以上がGo を使用して大きなマルチパート/フォームデータ ファイルを AWS S3 に効率的にストリーミングするにはどうすればよいですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ソース:php.cn
このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。
著者別の最新記事
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート