Google führt den TpuGraphs-Trainingsdatensatz ein, um die Deep-Learning-Fähigkeiten von KI-Modellen zu verbessern

Google hat kürzlich einen Modelltrainingsdatensatz namens TpuGraphs eingeführt, der hauptsächlich zur Optimierung von Compilern und zur Verbesserung der Deep-Learning-Funktionen künstlicher Intelligenz verwendet wird

▲ Bildquelle Google Blog (dasselbe unten)

Google wies darauf hin, dass aktuelle KI-Deep-Learning-Systeme für das Training normalerweise TensorFlow, JAX, PyTorch und andere Frameworks verwenden. Diese Frameworks optimieren Modelle hauptsächlich durch Heuristiken des zugrunde liegenden Compilers. Die Anwendung des „Lernkostenmodells“ im entsprechenden Compiler kann die Leistung des Compilers verbessern und die Deep-Learning-Fähigkeiten des endgültigen Ausgabemodells verbessern

IT House hat erfahren, dass es sich bei dem von Google veröffentlichten TpuGraphs-Datensatz um ein „Lernkostenmodell“ handelt. Dieser Datensatz enthält hauptsächlich verschiedene Open-Source-Deep-Learning-Programme, die eine Vielzahl gängiger Modellarchitekturen abdecken, wie ResNet, EfficientNet, Mask R-CNN und Transformer usw.

Google behauptet, dass der TpuGraphs-Datensatz von Google im Vergleich zu Branchenkonkurrenten hinsichtlich der „durchschnittlichen Diagrammgröße“ 770-mal größer und hinsichtlich der „Anzahl der Diagramme“ 25-mal größer ist. Google behauptet, dass die Anwendung des TpuGraphs-Datensatzes die Probleme der „Skalierbarkeit“, „Effizienz“ und „Qualität“ des endgültigen Ausgabemodells effektiv lösen kann

Darüber hinaus hat Google auch eine Modelltrainingsmethode namens GST (Graph Segment Training) eingeführt, die das Training großer graphischer neuronaler Netze auf Geräten mit begrenztem Speicher ermöglicht. Es wird gesagt, dass diese Methode die „End-to-End-Trainingszeit“ des Modells um das Dreifache verkürzen und die Effizienz des Modelltrainings effektiv verbessern kann

Das obige ist der detaillierte Inhalt vonGoogle führt den TpuGraphs-Trainingsdatensatz ein, um die Deep-Learning-Fähigkeiten von KI-Modellen zu verbessern. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!