OpenAI-Meister Karpathys neuester Beitrag: Warum OpenAI am meisten an KI-Agenten interessiert ist

Andrej Karpathy, der Mitbegründer von OpenAI, hielt kürzlich auf einer Entwicklerveranstaltung eine kurze Rede, in der er über seine und OpenAIs interne Ansichten zu AI Agents (Agenten der künstlichen Intelligenz) sprach.

Andrej Karpathy verglich die Schwierigkeiten bei der Entwicklung von KI-Agenten in der Vergangenheit mit den neuen Möglichkeiten, die sich durch neue Technologietools ergeben. Er scherzte auch, dass seine Arbeit bei Tesla „durch autonomes Fahren und VR abgelenkt wurde“. schlechte KI-Agenten.

Im Hinblick auf neue Möglichkeiten ist Andrej Karpathy der Ansicht, dass es jetzt an der Zeit ist, wieder zur Neurowissenschaft zurückzukehren und sich von ihr inspirieren zu lassen – so wie es in den Anfängen des Deep Learning geschah.

Andererseits glaubt Andrej Karpathy, dass normale Menschen, Unternehmer und Geeks beim Aufbau von KI-Agenten einen Vorteil gegenüber Unternehmen wie OpenAI haben, und freut sich daher auf die diesbezüglichen Ergebnisse.

Er enthüllte auch, dass, wenn in einem Artikel eine andere Trainingsmethode vorgeschlagen wird, das interne Slack von OpenAI darüber spottet und denkt, dass sie nur den Rest spielen. Sie werden mit großem Interesse die neuesten AI Agents-Papiere diskutieren.

Das Folgende ist der vollständige Text dieser Freigabe:

Hallo zusammen.

Ich wurde eingeladen, einige motivierende Worte zum Thema KI-Agenten zu halten. Ich denke, KI-Agenten stehen mir in gewisser Weise sehr nahe. Dies ist eine sehr frühe OpenAI-Geschichte. Damals gab es vielleicht nur ein Dutzend Leute eigentlich RL-Agenten (Reinforcement Learning Agents).

Jeder war wirklich daran interessiert, Agenten zu erstellen, aber zu der Zeit basierte es hauptsächlich auf Spielen, die Begeisterung galt Gaming-Unternehmen wie Atari, und mein damaliges Projekt bei OpenAI versuchte, den Fokus von RL Agents auf die Verwendung der Tastatur zu lenken Und verwenden Sie die Maus am Computer, nicht am Spiel.

Ich möchte sie nützlicher machen und viel Arbeit leisten, dieses Projekt heißt World of Bits.

Ein paar Kollegen und ich haben endlich einen Artikel veröffentlicht. Dieses Papier ist nicht erstaunlich, da es im Wesentlichen auf Methoden des RL-Verstärkungslernens basiert. Unsere Webseite ist sehr einfach gestaltet und ermöglicht es Benutzern, problemlos Flüge zu buchen oder Essen zu bestellen.

All dies wird offensichtlich nicht funktionieren, da die Technologie noch nicht bereit ist und es unklug wäre, diese Dinge zu diesem Zeitpunkt zu tun.

Es stellt sich heraus, dass wir KI-Agenten völlig vergessen und Sprachmodelle verwenden sollten.

Fünf Jahre später sind wir wieder hier und ich war vom autonomen Fahren ein wenig abgelenkt, aber jetzt sind KI-Agenten wieder cool und unser Werkzeugkasten ist völlig anders, und die Art und Weise, wie wir diese Probleme angehen, ist völlig anders.

Eigentlich haben Sie alle über KI-Agenten geforscht, aber vielleicht nicht mit Methoden des verstärkenden Lernens. Es ist verrückt und ich glaube nicht, dass wir das damals vorhersehen konnten. Das macht so viel Spaß.

Lassen Sie mich einen Moment Zeit nehmen, um darüber zu sprechen, warum KI-Agenten so beliebt sind. Ich denke, vielen Menschen ist klar, dass AGI (Künstliche Allgemeine Intelligenz) die Fähigkeiten von KI-Agenten voll ausnutzen wird, nicht nur eines, sondern vieler. Vielleicht wird es Organisationen oder Zivilisationen digitaler Einheiten geben, was ich sehr inspirierend und sogar ein wenig verrückt finde.

Allerdings möchte ich auch etwas kaltes Wasser darüber gießen. Meiner Meinung nach gibt es eine Klasse von Problemen, die man sich leicht vorstellen und im Kopf demonstrieren kann, die sich aber nur sehr schwer in ein echtes Produkt umsetzen lassen. Viele Dinge fallen in diese Kategorie, ich denke, autonomes Fahren ist ein Beispiel.

Man kann sich leicht autonomes Fahren vorstellen und ein Demoauto bauen, mit dem man um den Block fahren kann, aber es dauert zehn Jahre, bis daraus ein Produkt entsteht. Aus dem gleichen Grund denke ich, dass das Gleiche auch für VR gilt, es wird zehn Jahre dauern, bis es funktioniert.

Ich denke, das Gleiche gilt bis zu einem gewissen Grad auch für KI-Agenten. Man kann zwar leicht in Aufregung geraten, wenn man sich das vorstellt, aber ich glaube, dass es ein Jahrzehnt dauern würde, bis es tatsächlich funktioniert.

Das andere, was ich sagen wollte, ist, dass es meiner Meinung nach interessant ist, jetzt zur Neurowissenschaft zurückzukehren und sich in gewisser Weise wieder davon inspirieren zu lassen. Die Anfänge des Deep Learning waren von der Neurowissenschaft inspiriert.

Es ist sehr interessant, über die Beziehung zwischen ihnen nachzudenken, insbesondere da ich denke, dass viele Menschen Sprachmodelle als Teil der Lösung betrachten. Aber wie baut man eine vollständige digitale Einheit auf, die über alle kognitiven Fähigkeiten eines Menschen verfügt?

Es besteht kein Zweifel, dass wir uns alle einig sind, dass wir ein zugrunde liegendes System brauchen, um die von uns durchgeführten Aktivitäten zu planen, darüber nachzudenken und zu reflektieren, und hier spielen die Neurowissenschaften eine wichtige Rolle.

Zum Beispiel ist der Hippocampus sehr wichtig. Welche Rolle spielt der Hippocampus bei der Realisierung von Funktionen wie Gedächtnisspeicherung, Markierungsabruf usw.?

Wir haben ein vorläufiges Verständnis dafür, wie der visuelle und auditive Kortex aufgebaut wird, aber es gibt noch viele unbekannte Dinge bei KI-Agenten.

Wie sieht beispielsweise visuelles Gaming in AI Agents aus? Was entspricht dem Thalamus, dem Sitz des Unterbewusstseins, in AI Agents?

Das ist sehr interessant. Ich habe heute tatsächlich ein neurowissenschaftliches Buch mitgebracht, Brain and Behavior von David Eagleman, das ich sehr interessant und aufschlussreich fand.

Vielleicht sollten wir jetzt wie zuvor die Neurowissenschaften auf der Suche nach interessanten Inspirationen in Anspruch nehmen und einzelne Neuronen neu gestalten.

Abschließend möchte ich mit ein paar aufmunternden Worten schließen. Eine interessante, aber nicht offensichtliche Sache ist, dass die KI-Agenten, die Sie (in Bezug auf das Publikum) erstellt haben, tatsächlich an der Spitze der aktuellen KI-Agentenfähigkeiten stehen. Ich vermute, dass dies bei allen großen LLM-Institutionen wie OpenAI, DeFi usw. nicht der Fall ist im Vordergrund.

Du bist auf dem neuesten Stand.

OpenAI eignet sich beispielsweise sehr gut für das Training großer Transformer-Sprachmodelle. Wenn in einem Artikel eine andere Trainingsmethode vorgeschlagen wird, wird die Diskussion in unserer internen OpenAI-Slack-Gruppe etwa so lauten: „Oh ja, jemand hat es vor zweieinhalb Jahren versucht, und es hat nicht funktioniert, und wir haben keine Ahnung davon.“ Methode. Ich kenne die Besonderheiten sehr gut.

Aber wenn das neue AI Agents-Papier herauskommt, sind wir alle sehr interessiert und finden es sehr cool, denn unser Team hat keine fünf Jahre damit verbracht, wir wissen nicht mehr als Sie, wir arbeiten mit Ihnen zusammen Alle treten gemeinsam an.

Aus diesem Grund denke ich, dass Sie bei den Fähigkeiten von KI-Agenten an vorderster Front stehen, was für die Entwicklung von KI-Agenten sehr wichtig ist.

Das obige ist der detaillierte Inhalt vonOpenAI-Meister Karpathys neuester Beitrag: Warum OpenAI am meisten an KI-Agenten interessiert ist. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!