Das neue Modell von DeepMind lernt wie ein Baby und lernt die Regeln der physischen Welt in 28 Stunden

​Deepmind zielt darauf ab, ein Modell zu erstellen, das intuitive Physik erlernen und analysieren kann, warum das Modell diese Fähigkeit erlangt.

Von AlphaFold​ bis zum mathematischen Denken hat DeepMind versucht, KI und Grundlagenwissenschaften zu kombinieren. Jetzt hat DeepMind ein neues Modell erstellt, das einfache physikalische Regeln lernen kann.

Entwicklungspsychologen testeten und analysierten, wie Babys der Bewegung von Objekten durch ihren Blick folgen. Kinder zeigten sich beispielsweise überrascht, als ein Video abgespielt wurde, in dem ein Ball plötzlich verschwand.

Der Informatiker Luis Piloto von DeepMind und Kollegen hoffen, ähnliche Tests für künstliche Intelligenz (KI) zu entwickeln. Das Team trainierte ein neuronales Netzwerk mithilfe animierter Videos einfacher Objekte wie Würfel und Kugeln, und das Modell lernte, indem es Muster in großen Datenmengen entdeckte. Die Forschungsarbeit wurde am 11. Juli in Nature Human Behavior veröffentlicht.

• Papieradresse: https://www.nature .com/articles/s41562-022-01394-8
• Datensatzadresse: https://github.com/deepmind/physical_concepts

#🎜🎜 #

Das Modell führt physikalisches Lernen durch automatisches Kodieren und Verfolgen von Objekten durch und trägt daher den Namen PLATO (Physics Learning through Auto-encoding and Tracking Objects). PLATO erhält das Originalbild aus dem Video und eine Version des Bildes, die die Ziele jedes Objekts in der Szene hervorhebt. PLATO zielt darauf ab, interne Darstellungen der physikalischen Eigenschaften von Objekten wie ihrer Position und Geschwindigkeit zu entwickeln.

Das System wurde anhand von etwa 30 Stunden Videos trainiert, die einfache Bewegungsmechanismen zeigen (z. B. einen Ball, der einen Hang hinunterrollt), und wurde entwickelt, um vorherzusagen, wie sich diese Objekte in verschiedenen Situationen verhalten würden. Insbesondere lernt PLATO Kontinuität und Robustheit, um sicherzustellen, dass die Flugbahn des Ziels ununterbrochen ist und die Form des Objekts beständig ist. Während das Video abgespielt wird, werden die Vorhersagen des Modells genauer.

Beim Abspielen von Videos mit „unmöglichen“ Ereignissen, wie zum Beispiel dem plötzlichen Verschwinden eines Objekts, kann PLATO den Unterschied zwischen dem Video und seinen eigenen Vorhersagen messen und so ein Maß für den „Überraschungs“-Standard liefern.

Piloto sagte: „PLATO wurde nicht als Modell für das Verhalten von Säuglingen entwickelt, aber es kann Hypothesen darüber testen, wie menschliche Säuglinge lernen. Wir hoffen, dass Kognitionswissenschaftler es irgendwann verwenden werden, um das Verhalten von Säuglingen zu simulieren.“ 🎜 🎜#

Jeff Clune, Informatiker an der University of British Columbia, sagte: „Der Vergleich von KI mit dem Lernstil menschlicher Säuglinge ist eine wichtige Forschungsrichtung, die PLATO-Forscher von Hand entworfen haben die den Modellen der künstlichen Intelligenz Vorteile verschaffen. Forscher wie Clune versuchen, Programme ihre eigenen Algorithmen entwickeln zu lassen, um die physische Welt zu verstehen.

Wissen aus der Entwicklungspsychologie anwenden

Um eine umfassendere physische Intuition in KI-Systemen zu erreichen, lässt sich das Forschungsteam von DeepMind von der Entwicklungspsychologie inspirieren. Das Forschungsteam hat ein Deep-Learning-System entwickelt, das eine zentrale Erkenntnis aus der Entwicklungspsychologie einbezieht, nämlich dass die Physik auf der Ebene diskreter Objekte und ihrer Interaktionen verstanden wird.

Der Kern der intuitiven Physik beruht auf einer Reihe diskreter Konzepte (z. B. Objektpersistenz, Solidität, Kontinuität usw.), die unterschieden, manipuliert und individuell erkannt werden können. Herkömmliche Standardansätze zum KI-Lernen intuitiver Physik lernen die physische Welt durch Video- oder Zustandsprädiktoren, binäre Ergebnisvorhersagen, Frage-Antwort-Leistung oder verstärkende Lernaufgaben kennen. Diese Ansätze scheinen das Verständnis einiger Aspekte der intuitiven Physik zu erfordern, implementieren jedoch nicht explizit eine klare Reihe von Konzepten oder erforschen sie nicht strategisch.

Die Entwicklungspsychologie hingegen geht davon aus, dass ein physisches Konzept einer Reihe von Erwartungen darüber entspricht, wie sich die Zukunft entwickeln wird. Beispielsweise erwarten die Menschen, dass Objekte sich nicht plötzlich auf magische Weise von einem Ort zum anderen teleportieren, sondern dass sie einen kontinuierlichen Weg durch Zeit und Raum verfolgen, was zum Konzept der Kontinuität führt. Daher gibt es eine Möglichkeit, das Wissen über bestimmte physikalische Konzepte zu messen: das Violation of Expectations (VoE)-Paradigma.

Bei der Erforschung eines bestimmten Konzepts mithilfe des VoE-Paradigmas zeigen Forscher Säuglingen visuell ähnliche Anordnungen (Sonden genannt), die entweder mit dem physikalischen Konzept konsistent (physikalisch möglich) oder nicht konsistent (physikalisch möglich) sind (unmöglich). In diesem Paradigma wird „Überraschung“ an der Blickdauer gemessen.

Einführung in die Methode

Zuerst schlug DeepMind einen sehr umfangreichen Videokorpus vor – den Datensatz „Physical Concepts“. Dieser Datensatz enthält VoE-Sondenvideos, die auf fünf wichtige physikalische Konzepte abzielen, die als Kernelemente der Entwicklungspsychologie gelten, darunter Kontinuität, Zielpersistenz und Robustheit. Das vierte Konzept ist die Unveränderlichkeit, die das Konzept erfasst, dass sich bestimmte Zieleigenschaften (z. B. die Form) nicht ändern. Das fünfte Konzept ist die Richtungsträgheit, die die Erwartung beinhaltet, dass sich ein bewegtes Objekt in eine Richtung ändert, die dem Trägheitsprinzip entspricht.

Das Wichtigste ist, dass der Physical Concepts-Datensatz auch einen separaten Videokorpus als Trainingsdaten enthält. Diese Videos demonstrieren verschiedene prozedural generierte physikalische Ereignisse.

Abbildung 2: Beispiel eines Videodatensatzes, der zum Trainieren des Modells verwendet wird

PLATO-Modellarchitektur

Deepmind zielt darauf ab, ein Modell zu erstellen, das intuitive Physik erlernen und analysieren kann, warum das Modell diese Fähigkeit erreicht. Einige fortgeschrittene Systeme im Bereich KI werden im PLATO-Modell instanziiert.

Zunächst geht es um den angestrebten Personalisierungsprozess. Der Zielpersonalisierungsprozess zerlegt den kontinuierlichen sensorischen Input des Sehens in eine Reihe diskreter Einheiten, wobei jede Einheit über einen entsprechenden Satz von Attributen verfügt. In PLATO wird jedes segmentierte Videobild vom Wahrnehmungsmodul in einen Satz von Zielcodes (Abbildung 3a-c) zerlegt, wodurch die Zuordnung von visuellen Eingaben zu einzelnen Zielen ermöglicht wird. PLATO lernt nicht, die Szene zu segmentieren, sondern erlernt bei gegebenem Segmentierungsziel eine komprimierte Darstellung.

Zweitens weist die Zielverfolgung (oder der Zielindex) jedem Ziel einen Index zu, wodurch eine Übereinstimmung zwischen der Zielwahrnehmung und der dynamischen Attributberechnung über die Zeit hinweg erreicht wird (Abbildung 3b, c). In PLATO wird der Zielcode akkumuliert und über Frames im Zielpuffer verfolgt (Abbildung 3d).

Die letzte Komponente ist die Beziehungsverarbeitung dieser verfolgten Ziele. Dieser Prozess ist vom in der Entwicklungspsychologie vorgeschlagenen „physischen Denksystem“ inspiriert. Dieses System kann die Darstellung von Objekten dynamisch verarbeiten und diese Darstellungen beeinflussen durch Beziehungen und Interaktionen zwischen Objekten und anderen Objekten.

PLATO lernt die Interaktion zwischen Zielgedächtnis und Zielwahrnehmungsverlauf (Abbildung 3d), um vorhergesagte Videobilder für das nächste Ziel zu generieren und das zielbasierte Gedächtnis zu aktualisieren.

Abbildung 3: PLATO besteht aus zwei Komponenten: Wahrnehmungsmodul (links) und dynamische Vorhersage (rechts)

Experimentelle Ergebnisse

Zur Testzeit schnitt PLATO beim Training mit fünf verschiedenen Zufalls-Seeds in allen Strong VoE besser ab Effekte zeigten sich in allen fünf Detektionskategorien.

Abbildung 5: PLATO zeigt eine robuste Leistung bei der Untersuchung des Datensatzes „Physical Concepts“.

Der Trainingskorpus im Physical Concepts-Datensatz enthält insgesamt 300.000 Videos. Bei konservativen Berechnungen sind das etwa 52 Tage ununterbrochenes visuelles Erlebnis. Aus KI- und Entwicklungsperspektive stellt sich die Frage, wie viele Trainingsdaten tatsächlich benötigt werden, um beim Testen einen VoE-Effekt zu erzielen. Um dies zu bewerten, trainierte Deepmind zufällige Seeds von drei dynamischen PLATO-Prädiktoren auf Datensätzen abnehmender Größe (Abbildung 6) und berechnete den Gesamtdurchschnitt der VoE-Effekte über alle fünf Erkennungsklassen hinweg.

Die Ergebnisse zeigen robuste VoE-Effekte in Deepminds Modellen nach dem Training mit nur 50.000 Beispielen (entspricht 28 Stunden visueller Erfahrung).

Abbildung 6: PLATO zeigt beeindruckende Ergebnisse in nur 28 Stunden visuellem Erlebnis.

Generalisierungstests: Deepmind verwendet den ADEPT-Datensatz, der darauf ausgelegt ist, intuitives physikalisches Wissen zu erforschen. Wie in Abbildung 7 dargestellt, zeigt PLATO deutliche VoE-Effekte für alle drei Erkennungskategorien.

Abbildung 7: PLATO zeigt robuste Effekte auf unsichtbare Ziele und Dynamiken ohne Umschulung.

Weitere Informationen finden Sie im Originalpapier.

Das obige ist der detaillierte Inhalt vonDas neue Modell von DeepMind lernt wie ein Baby und lernt die Regeln der physischen Welt in 28 Stunden. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!