Ehemaliger Tesla-Direktor und OpenAI-Experte Karpathy: Ich war vom autonomen Fahren abgelenkt, KI-Agenten sind die Zukunft!

Kürzlich teilte Andrej Karpathy, Mitbegründer von OpenAI, ehemaliger Direktor von TeslaAI und jetzt zu OpenAI zurückkehrend, auf einer Entwicklerveranstaltung seine Ansichten zu KI-Agenten mit.

Vor sieben Jahren war die Zeit, KI-Agenten zu studieren, noch nicht ausgereift Verstärkungslernmethoden. Verbessern Sie KI-Agenten.

Viele Projekte entwickeln KI-Spieler basierend auf ähnlichen Atari-Spielen.

Bilder

Was er damals machen wollte, war ein Produkt mit einem breiteren Anwendungsspektrum.

Aufgrund der damaligen Einschränkungen der Technologie waren die Ergebnisse jedoch nicht gut, sodass er und OpenAI ihre Richtung änderten und begannen, größere Sprachmodelle zu bauen.

Natürlich war ich in dieser Zeit durch das automatische Fahren abgelenkt.

Aber jetzt, 5 Jahre später, sind KI-Agenten wieder eine sehr vielversprechende Richtung.

Da es nun neue technische Mittel zur Untersuchung von KI-Agenten gibt, ist die Situation völlig anders als 2016.

Das einfachste Beispiel ist, dass niemand mehr Methoden des verstärkenden Lernens verwendet, um KI-Agenten zu untersuchen, wie dies 2016 der Fall war.

Die aktuellen Forschungsmethoden und -richtungen waren damals unvorstellbar.

KI-Agenten stellen eine verrückte Zukunft dar, auch wenn sie vielleicht noch etwas weit weg ist

Denn in Zukunft, wenn AGI auftauchen kann, werden die Fähigkeiten von KI-Agenten voll ausgeschöpft.

In Zukunft sind KI-Agenten vielleicht keine einzelnen Individuen mehr, aber es wird viele KI-Agenten-Organisationen oder sogar KI-Agenten-Zivilisationen geben.

Bilder

Das könnte eine sehr aufregende, sogar verrückte Zukunft sein.

Aber gleichzeitig müssen alle wach und ruhig bleiben.

Denn manche technologischen Trendrichtungen sind zwar leicht zu konzipieren und vorzustellen, aber es ist schwierig, Produkte umzusetzen.

Viele Technologien fallen in diese Kategorie, wie zum Beispiel das autonome Fahren.

Eine technische Vision kann man sich leicht vorstellen, und Demonstrationen von Autos, die um den Block fahren, sind leicht durchzuführen, aber die Entwicklung eines Produkts kann 10 Jahre dauern.

Ähnlich ist auch VR die gleiche Situation.

Bilder

KI-Agenten mögen ebenfalls zu dieser Technologiekategorie gehören. Die Anwendungsszenarien sind leicht vorstellbar und die Aussichten sind spannend, aber es erfordert eine langfristige technologische Entwicklung und Anhäufung.

KI-Agenten müssen sich von den Neurowissenschaften inspirieren lassen

Genau wie die frühe Entwicklung von Deep Learning kann die Entwicklung von KI-Agenten von den Neurowissenschaften inspiriert sein.

Es ist interessant, über die Beziehung zwischen KI-Agenten und Neurowissenschaften nachzudenken.

Besonders jetzt, da viele Menschen große Sprachmodelle als Teil ihrer KI-Agentenlösungen betrachten.

Aber wie baut man eine vollständige digitale Einheit auf, die alle menschlichen kognitiven Fähigkeiten besitzt?

Natürlich sind wir uns alle einig, dass es ein zugrunde liegendes System zum Planen, Nachdenken und Nachdenken darüber geben muss, was wir tun.

Hier könnten die Neurowissenschaften ins Spiel kommen.

Zum Beispiel ist der Hippocampus ein sehr wichtiger Teil des Gehirns.

Aber welche Rolle spielt der Hippocampus im KI-Agenten, um Erinnerungen zu speichern, Tagging und Retrieval zu implementieren usw.?

Wir verstehen im Allgemeinen, wie man den visuellen und auditiven Kortex aufbaut, aber es gibt immer noch viele Dinge, von denen wir nicht genau wissen, was das bei einem KI-Agenten genau bedeutet.

Was entspricht beispielsweise dem Thalamus, dem Sitz des Unterbewusstseins, in AI Agents?

Das sind sehr interessante Fragen.

Ich habe extra ein Buch über Neurowissenschaften mitgebracht, „Brain and Behavior“ von David Eagleman. Ich fand dieses Buch sehr interessant und aufschlussreich.

Genau wie die frühe KI-Forschung beim Entwurf von Neuronen könnte es eine Richtung sein, die wir noch einmal versuchen sollten, indem wir interessante Inspirationen aus den Neurowissenschaften ziehen.

Jeder hier steht an der Spitze der Branche

Sie wissen es vielleicht nicht unbedingt, aber die KI-Agenten, die heute von allen hier entwickelt werden, stehen bereits an der Spitze der Fähigkeiten von KI-Agenten.

Ich glaube nicht, dass eine der Institutionen, die derzeit an großen Sprachmodellen wie OpenAI arbeiten, auf diesem Gebiet an der Spitze steht.

Im Vordergrund steht hier jeder.

OpenAI eignet sich beispielsweise sehr gut für das Training von Transformer-Sprachmodellen.

Wenn in einem Artikel eine andere Trainingsmethode vorgeschlagen wird, wird jeder in unserer internen OpenAI-Slack-Gruppe darüber diskutieren und sagen:

„Ich habe diese Methode vor zweieinhalb Jahren ausprobiert und sie hat nicht funktioniert.“ "

Wir sind uns über die Einzelheiten der Trainingsmethode für das Modell sehr im Klaren.

Aber wenn das Papier über KI-Agenten herauskommt, werden wir alle sehr interessiert sein und es großartig finden.

Weil unser Team die letzten 5 Jahre woanders verbracht hat.

Bilder

Wir wissen auf diesem Gebiet nicht mehr als Sie und stehen im Wettbewerb auf der gleichen Ebene wie alle anderen.

Deshalb denke ich, dass jeder hier an der Spitze der KI-Agenten steht. Das ist sehr wichtig für die Entwicklung von KI-Agenten.

Das obige ist der detaillierte Inhalt vonEhemaliger Tesla-Direktor und OpenAI-Experte Karpathy: Ich war vom autonomen Fahren abgelenkt, KI-Agenten sind die Zukunft!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!