Heim > Backend-Entwicklung > Golang > Apache Beam ParDo-Filter in Go

Apache Beam ParDo-Filter in Go

王林
Freigeben: 2024-02-05 11:57:58
nach vorne
1091 Leute haben es durchsucht

Go 中的 Apache Beam ParDo 过滤器

Frageninhalt

Ich bin ein Python-Entwickler, sollte aber Go verwenden, um eine Datenfluss-Pipeline zu erstellen. Ich kann nicht so viele Apache-Beam-Beispiele finden, die Go im Vergleich zu Python oder Java verwenden.

Ich habe den folgenden Code, der eine Struktur aus Benutzername und Alter hat. Die Aufgabe besteht darin, das Alter hinzuzufügen und dann nach Alter zu filtern. Ich habe eine Möglichkeit gefunden, das Alter zu erhöhen, stecke aber beim Filterteil fest.

package main

import (
    "context"
    "flag"
    "fmt"

    "github.com/apache/beam/sdks/v2/go/pkg/beam"
    "github.com/apache/beam/sdks/v2/go/pkg/beam/log"
    "github.com/apache/beam/sdks/v2/go/pkg/beam/x/beamx"
)

func init() {
    beam.registerfunction(incrementage)
}

type user struct {
    name string
    age  int
}

func printrow(ctx context.context, list user) {
    fmt.println(list)
}

func incrementage(list user) user {
    list.age++
    return list
}

func main() {

    flag.parse()
    beam.init()

    ctx := context.background()

    p := beam.newpipeline()
    s := p.root()

    var userlist = []user{
        {"bob", 40},
        {"adam", 50},
        {"john", 35},
        {"ben", 8},
    }
    initial := beam.createlist(s, userlist)

    pc := beam.pardo(s, incrementage, initial)

    pc1 := beam.pardo(s, func(row user, emit func(user)) {
        emit(row)
    }, pc)

    beam.pardo0(s, printrow, pc1)

    if err := beamx.run(ctx, p); err != nil {
        log.exitf(ctx, "failed to execute job: %v", err)
    }

}
Nach dem Login kopieren

Ich habe versucht, eine Funktion wie unten zu erstellen, aber diese gibt einen booleschen Wert anstelle des Benutzerobjekts zurück. Ich weiß, dass mir etwas Einfaches fehlt, aber ich kann es nicht herausfinden.

func filterage(list user) user {
    return list.age > 40    
}
Nach dem Login kopieren

In Python kann ich eine Funktion wie unten schreiben.

beam.Filter(lambda line: line["Age"] >= 40))
Nach dem Login kopieren


Richtige Antwort


Sie müssen der Funktion einen Emitter hinzufügen, um den Benutzer zu starten:

func filterAge(list user, emit func(user)) {
    if list.Age > 40 {
        emit(list)
    }
}
Nach dem Login kopieren

Wie in Ihrem aktuellen Code geschrieben, 返回 list.age > 40 list.age > 40 Zuerst wird „true“ (ein boolescher Wert) ausgewertet und dieser boolesche Wert zurückgegeben.

Das obige ist der detaillierte Inhalt vonApache Beam ParDo-Filter in Go. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Quelle:stackoverflow.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage