Heim Technologie-Peripheriegeräte KI KI-Neugier tötet nicht nur die Katze! Der neue Reinforcement-Learning-Algorithmus des MIT, diesmal ist der Agent „schwierig und leicht, alles zu ertragen'

KI-Neugier tötet nicht nur die Katze! Der neue Reinforcement-Learning-Algorithmus des MIT, diesmal ist der Agent „schwierig und leicht, alles zu ertragen'

Apr 13, 2023 pm 04:19 PM
ai 算法 mit

​Jeder kennt ein uraltes Problem.

Es ist Freitagabend und Sie versuchen, ein Restaurant zum Essen auszuwählen, haben aber keine Reservierung. Sollten Sie in Ihrem Lieblingsrestaurant, in dem es viele Menschen gibt, in der Schlange stehen oder ein neues Restaurant ausprobieren, in der Hoffnung, noch leckerere Überraschungen zu entdecken?

Letzteres kann zwar zu Überraschungen führen, aber diese Art von neugierigem Verhalten birgt Risiken: Das Essen in dem neuen Restaurant, das Sie probieren, ist möglicherweise noch schlechter.

Neugier ist die treibende Kraft für KI, die Welt zu erkunden, und es gibt unzählige Beispiele – autonome Navigation, Entscheidungsfindung von Robotern, optimierte Erkennungsergebnisse usw.

In manchen Fällen nutzen Maschinen „Reinforcement Learning“, um ein Ziel zu erreichen. Dabei lernt der KI-Agent immer wieder aus guten Verhaltensweisen, die belohnt werden, und aus schlechten Verhaltensweisen, die bestraft werden.

KI-Neugier tötet nicht nur die Katze! Der neue Reinforcement-Learning-Algorithmus des MIT, diesmal ist der Agent „schwierig und leicht, alles zu ertragen

Genau wie das Dilemma, mit dem Menschen bei der Auswahl eines Restaurants konfrontiert sind, versuchen diese Agenten, die Zeit zum Entdecken besserer Maßnahmen (Exploration) und die Zeit zum Ergreifen von Maßnahmen, die in der Vergangenheit zu hohen Erträgen geführt haben (Ausbeutung), in Einklang zu bringen.

Eine zu starke Neugier lenkt den Agenten ab und hindert ihn daran, eine günstige Entscheidung zu treffen, während eine zu schwache Neugier dazu führt, dass der Agent nie in der Lage sein wird, eine günstige Entscheidung zu treffen.

Um KI-Agenten „genau die richtige“ Neugier zu vermitteln, haben Forscher des Computer Science and AI Laboratory (CSAIL) des MIT einen Algorithmus entwickelt, der das Problem überwindet, dass KI zu „neugierig“ ist und von den anstehenden Problemen überwältigt wird. Probleme mit der Aufgabenablenkung.

Der von ihnen entwickelte Algorithmus erhöht bei Bedarf automatisch die Neugier und verringert sie, wenn der Agent ausreichend Aufsicht aus der Umgebung erhält und bereits weiß, was zu tun ist.

KI-Neugier tötet nicht nur die Katze! Der neue Reinforcement-Learning-Algorithmus des MIT, diesmal ist der Agent „schwierig und leicht, alles zu ertragen

Link zum Papier: https://williamd4112.github.io/pubs/neurips22_eipo.pdf

Nach Tests in mehr als 60 Videospielen ist dieser Algorithmus in der Lage, Erkundungsaufgaben mit unterschiedlichen Schwierigkeitsgraden erfolgreich zu bewältigen, während frühere Algorithmen können nur einzeln im Schwierigkeitsgrad „leicht“ oder „schwer“ gelöst werden. Dies bedeutet, dass KI-Agenten weniger Daten verwenden können, um Entscheidungsregeln zu lernen und Anreize zu maximieren.

„Wenn Sie den Kompromiss zwischen Exploration und Ausbeutung gut verstehen, können Sie die richtigen Entscheidungsregeln schneller erlernen, während für alles andere viele Daten erforderlich sind, was dazu führen kann, dass die erzielten Ergebnisse nicht optimal sind. Medizinische Lösungen.“ „Die Website-Gewinne sind rückläufig und Roboter lernen nicht, die richtigen Dinge zu tun“, sagte Pulkit Agrawal, einer der Studienleiter und Professor am MIT und Direktor des Improbable AI Lab.

Neugier tötet nicht nur die Katze!

Es scheint schwierig, die psychologischen Grundlagen der Neugier aus psychologischer Sicht zu erklären. Wir haben noch kein tiefes Verständnis für die zugrunde liegenden neurologischen Prinzipien dieses herausforderungssuchenden Verhaltens.

Mit Reinforcement Learning wird dieser Prozess emotional „beschnitten“ und das Problem auf seine grundlegendste Ebene reduziert, die technische Umsetzung ist jedoch recht komplex.

Im Wesentlichen sollte ein Agent nur dann neugierig sein, wenn es nicht genügend Aufsicht gibt, um verschiedene Dinge auszuprobieren, und wenn es Aufsicht gibt, muss er seine Neugier anpassen und reduzieren.

Ein großer Teil der Testspielaufgaben besteht aus kleinen Agenten, die auf der Suche nach Belohnungen durch die Umgebung laufen und eine lange Liste von Aktionen ausführen, um ein bestimmtes Ziel zu erreichen. Dies scheint ein logischer Testrahmen für die Algorithmen der Forscher zu sein.

KI-Neugier tötet nicht nur die Katze! Der neue Reinforcement-Learning-Algorithmus des MIT, diesmal ist der Agent „schwierig und leicht, alles zu ertragenIn Experimenten mit Spielen wie „Mario Kart“ und „Montezumas Rache“ teilten Forscher die oben genannten Spiele in zwei verschiedene Kategorien ein:

Eine spärlich überwachte Umgebung, in der der Agent weniger Anleitung erhält. Eins ist weniger, was a ist „schweres“ Erkundungsspiel; das andere ist eine intensiver betreute Umgebung, bei der es sich um ein „einfaches“ Erkundungsspiel handelt.

Angenommen, in Mario Kart entfernen Sie einfach alle Belohnungen und Sie wissen nicht, wann ein Feind Sie tötet. Für das Einsammeln einer Münze oder den Sprung über ein Rohr erhältst du keine Belohnung. Dem Agenten wird erst am Ende mitgeteilt, wie er sich verhalten hat. Dies ist ein kaum überwachtes Umfeld, was eine schwierige Aufgabe darstellt. Algorithmen, die die Neugier wecken, leisten bei dieser Art von Aufgabe sehr gute Dienste.

Und wenn sich der Agent in einer dicht überwachten Umgebung befindet, das heißt, es gibt Belohnungen für das Springen durch Rohre, das Sammeln von Münzen und das Töten von Feinden, dann ist der Algorithmus mit der besten Leistung ein Algorithmus ohne Neugier, da er oft belohnt wird und Befolgen Sie einfach den Prozess und Sie werden ohne zusätzliche Erkundung viel gewinnen.

KI-Neugier tötet nicht nur die Katze! Der neue Reinforcement-Learning-Algorithmus des MIT, diesmal ist der Agent „schwierig und leicht, alles zu ertragenWenn Sie einen Algorithmus verwenden, der die Neugier weckt, wird die Lerngeschwindigkeit sehr langsam sein.

Weil ein neugieriger Agent möglicherweise auf verschiedene Weise versucht, schnell zu rennen, umherzuwandern und jede Ecke des Spiels zu besuchen. Diese Dinge machen Spaß, aber sie helfen dem Agenten nicht, im Spiel erfolgreich zu sein und Belohnungen zu erhalten.

Wie oben erwähnt, werden beim verstärkenden Lernen Algorithmen, die Neugier wecken und Neugier hemmen, im Allgemeinen verwendet, um spärlich überwachten (schwierigen) bzw. überwachten intensiven (einfachen) Aufgaben zu entsprechen, und können nicht gemischt werden.

Dieses Mal funktioniert der neue Algorithmus des MIT-Teams immer gut, egal in welcher Umgebung.

Zukünftige Arbeiten könnten die Rückkehr zu einer Suche beinhalten, die Psychologen seit Jahren begeistert und beunruhigt: ein angemessenes Maß für Neugier – niemand weiß wirklich, wie man Neugier mathematisch richtig definiert.

Zhang Weihong, Doktorand am MIT CSAIL, sagte:

Optimieren Sie den Algorithmus für das Problem, an dem Sie interessiert sind, indem Sie den Explorationsalgorithmus verbessern. Wir brauchen Neugier, um herausfordernde Probleme zu lösen, aber bei manchen Problemen kann Neugier die Leistung beeinträchtigen. Unser Algorithmus eliminiert den Ausgleichsaufwand für die Anpassung von Exploration und Exploitation.

Bei Problemen, deren Lösung früher eine Woche dauerte, kann der neue Algorithmus in wenigen Stunden zufriedenstellende Ergebnisse erzielen.

Er ist Co-Autor eines neuen Artikels zu dieser Arbeit mit Eric Chen, 22, einem CSAIL M.E. am MIT.

Deepak Pathak, ein Lehrer an der Carnegie Mellon University, sagte:

„Intrinsische Belohnungsmechanismen wie Neugier sind die Grundlage dafür, dass Agenten nützliche und vielfältige Verhaltensweisen entdecken, aber dies sollte nicht die Grundlage für eine bestimmte Aufgabe sein.“ ist ein wichtiges Thema in der KI, und dieser Artikel bietet eine Möglichkeit, diesen Kompromiss auszugleichen. Es wird interessant sein zu sehen, wie sich dieser Ansatz von Spielen auf reale Roboteragenten übertragen lässt. Eine interessante Sache und außerordentlicher Professor für Philosophie an der University of California, Berkeley, wies darauf hin, dass eine der größten Herausforderungen in der aktuellen KI- und Kognitionswissenschaft darin besteht, „Erforschung und Nutzung“ in Einklang zu bringen Belohnungen.

「Dieser Artikel verwendet beeindruckende neue Technologien, um diese Arbeit zu automatisieren, und entwirft einen Agenten, der die Neugier auf die Welt und den Wunsch nach Belohnungen systematisch in Einklang bringen kann, sodass KI-Agenten sich auf Dinge wie „Es ist ein wichtiger Schritt in die Richtung, echte Kinder zu machen“ zu konzentrieren so schlau wie möglich zu sein“, sagte er.

Referenzen:

https://techxplore.com/news/2022-11-bad-ai-curious.html

https://www.csail.mit.edu/news/ensuring-ai-works- right -Dosis-Neugier

Das obige ist der detaillierte Inhalt vonKI-Neugier tötet nicht nur die Katze! Der neue Reinforcement-Learning-Algorithmus des MIT, diesmal ist der Agent „schwierig und leicht, alles zu ertragen'. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

AI Hentai Generator

AI Hentai Generator

Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

R.E.P.O. Energiekristalle erklärten und was sie tun (gelber Kristall)
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Beste grafische Einstellungen
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. So reparieren Sie Audio, wenn Sie niemanden hören können
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Wie man alles in Myrise freischaltet
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Welche Methode wird verwendet, um Strings in Objekte in Vue.js umzuwandeln? Welche Methode wird verwendet, um Strings in Objekte in Vue.js umzuwandeln? Apr 07, 2025 pm 09:39 PM

Bei der Konvertierung von Zeichenfolgen in Objekte in Vue.js wird JSON.Parse () für Standard -JSON -Zeichenfolgen bevorzugt. Bei nicht standardmäßigen JSON-Zeichenfolgen kann die Zeichenfolge durch Verwendung regelmäßiger Ausdrücke verarbeitet und Methoden gemäß dem Format oder dekodierten URL-kodiert reduziert werden. Wählen Sie die entsprechende Methode gemäß dem String -Format aus und achten Sie auf Sicherheits- und Codierungsprobleme, um Fehler zu vermeiden.

So verwenden Sie MySQL nach der Installation So verwenden Sie MySQL nach der Installation Apr 08, 2025 am 11:48 AM

Der Artikel führt den Betrieb der MySQL -Datenbank vor. Zunächst müssen Sie einen MySQL -Client wie MySQLworkBench oder Befehlszeilen -Client installieren. 1. Verwenden Sie den Befehl mySQL-uroot-P, um eine Verbindung zum Server herzustellen und sich mit dem Stammkonto-Passwort anzumelden. 2. Verwenden Sie die Erstellung von Createdatabase, um eine Datenbank zu erstellen, und verwenden Sie eine Datenbank aus. 3.. Verwenden Sie CreateTable, um eine Tabelle zu erstellen, Felder und Datentypen zu definieren. 4. Verwenden Sie InsertInto, um Daten einzulegen, Daten abzufragen, Daten nach Aktualisierung zu aktualisieren und Daten nach Löschen zu löschen. Nur indem Sie diese Schritte beherrschen, lernen, mit gemeinsamen Problemen umzugehen und die Datenbankleistung zu optimieren, können Sie MySQL effizient verwenden.

Wie man MySQL löst, kann nicht gestartet werden Wie man MySQL löst, kann nicht gestartet werden Apr 08, 2025 pm 02:21 PM

Es gibt viele Gründe, warum MySQL Startup fehlschlägt und durch Überprüfung des Fehlerprotokolls diagnostiziert werden kann. Zu den allgemeinen Ursachen gehören Portkonflikte (prüfen Portbelegung und Änderung der Konfiguration), Berechtigungsprobleme (Überprüfen Sie den Dienst Ausführen von Benutzerberechtigungen), Konfigurationsdateifehler (Überprüfung der Parametereinstellungen), Datenverzeichniskorruption (Wiederherstellung von Daten oder Wiederaufbautabellenraum), InnoDB-Tabellenraumprobleme (prüfen IBDATA1-Dateien), Plug-in-Ladeversagen (Überprüfen Sie Fehlerprotokolle). Wenn Sie Probleme lösen, sollten Sie sie anhand des Fehlerprotokolls analysieren, die Hauptursache des Problems finden und die Gewohnheit entwickeln, Daten regelmäßig zu unterstützen, um Probleme zu verhindern und zu lösen.

VUE.JS Wie kann man ein Array von String -Typ in ein Array von Objekten umwandeln? VUE.JS Wie kann man ein Array von String -Typ in ein Array von Objekten umwandeln? Apr 07, 2025 pm 09:36 PM

Zusammenfassung: Es gibt die folgenden Methoden zum Umwandeln von VUE.JS -String -Arrays in Objektarrays: Grundlegende Methode: Verwenden Sie die Kartenfunktion, um regelmäßige formatierte Daten zu entsprechen. Erweitertes Gameplay: Die Verwendung regulärer Ausdrücke kann komplexe Formate ausführen, müssen jedoch sorgfältig geschrieben und berücksichtigt werden. Leistungsoptimierung: In Betracht ziehen die große Datenmenge, asynchrone Operationen oder effiziente Datenverarbeitungsbibliotheken können verwendet werden. Best Practice: Clear Code -Stil, verwenden Sie sinnvolle variable Namen und Kommentare, um den Code präzise zu halten.

Laravels Geospatial: Optimierung interaktiver Karten und großen Datenmengen Laravels Geospatial: Optimierung interaktiver Karten und großen Datenmengen Apr 08, 2025 pm 12:24 PM

Verarbeiten Sie 7 Millionen Aufzeichnungen effizient und erstellen Sie interaktive Karten mit Geospatial -Technologie. In diesem Artikel wird untersucht, wie über 7 Millionen Datensätze mithilfe von Laravel und MySQL effizient verarbeitet und in interaktive Kartenvisualisierungen umgewandelt werden können. Erstes Herausforderungsprojektanforderungen: Mit 7 Millionen Datensätzen in der MySQL -Datenbank wertvolle Erkenntnisse extrahieren. Viele Menschen erwägen zunächst Programmiersprachen, aber ignorieren die Datenbank selbst: Kann sie den Anforderungen erfüllen? Ist Datenmigration oder strukturelle Anpassung erforderlich? Kann MySQL einer so großen Datenbelastung standhalten? Voranalyse: Schlüsselfilter und Eigenschaften müssen identifiziert werden. Nach der Analyse wurde festgestellt, dass nur wenige Attribute mit der Lösung zusammenhängen. Wir haben die Machbarkeit des Filters überprüft und einige Einschränkungen festgelegt, um die Suche zu optimieren. Kartensuche basierend auf der Stadt

So stellen Sie die Zeitüberschreitung von Vue Axios fest So stellen Sie die Zeitüberschreitung von Vue Axios fest Apr 07, 2025 pm 10:03 PM

Um die Zeitüberschreitung für Vue Axios festzulegen, können wir eine Axios -Instanz erstellen und die Zeitleitungsoption angeben: in globalen Einstellungen: vue.Prototyp. $ Axios = axios.create ({Timeout: 5000}); In einer einzigen Anfrage: this. $ axios.get ('/api/user', {timeout: 10000}).

So optimieren Sie die Datenbankleistung nach der MySQL -Installation So optimieren Sie die Datenbankleistung nach der MySQL -Installation Apr 08, 2025 am 11:36 AM

Die MySQL -Leistungsoptimierung muss von drei Aspekten beginnen: Installationskonfiguration, Indexierung und Abfrageoptimierung, Überwachung und Abstimmung. 1. Nach der Installation müssen Sie die my.cnf -Datei entsprechend der Serverkonfiguration anpassen, z. 2. Erstellen Sie einen geeigneten Index, um übermäßige Indizes zu vermeiden und Abfrageanweisungen zu optimieren, z. B. den Befehl Erklärung zur Analyse des Ausführungsplans; 3. Verwenden Sie das eigene Überwachungstool von MySQL (ShowProcessList, Showstatus), um die Datenbankgesundheit zu überwachen und die Datenbank regelmäßig zu sichern und zu organisieren. Nur durch kontinuierliche Optimierung dieser Schritte kann die Leistung der MySQL -Datenbank verbessert werden.

Remote Senior Backend Engineers (Plattformen) benötigen Kreise Remote Senior Backend Engineers (Plattformen) benötigen Kreise Apr 08, 2025 pm 12:27 PM

Remote Senior Backend Engineer Job Vacant Company: Circle Standort: Remote-Büro-Jobtyp: Vollzeitgehalt: 130.000 bis 140.000 US-Dollar Stellenbeschreibung Nehmen Sie an der Forschung und Entwicklung von Mobilfunkanwendungen und öffentlichen API-bezogenen Funktionen, die den gesamten Lebenszyklus der Softwareentwicklung abdecken. Die Hauptaufgaben erledigen die Entwicklungsarbeit unabhängig von RubyonRails und arbeiten mit dem Front-End-Team von React/Redux/Relay zusammen. Erstellen Sie die Kernfunktionalität und -verbesserungen für Webanwendungen und arbeiten Sie eng mit Designer und Führung während des gesamten funktionalen Designprozesses zusammen. Fördern Sie positive Entwicklungsprozesse und priorisieren Sie die Iterationsgeschwindigkeit. Erfordert mehr als 6 Jahre komplexes Backend für Webanwendungen

See all articles