Inhaltsverzeichnis
Zu den Hauptkomponenten des KAgentSys-Systems gehören ein kognitiver Kern, ein Speichermechanismus und eine Werkzeugbibliothek, die auf großen Modellen basiert, um eine iterative Automatisierung zu erreichen.
Evaluation
Heim Technologie-Peripheriegeräte KI Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!

Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!

Jan 09, 2024 am 11:25 AM
模型 训练

Können Modelle der Größe 7B auch mit KI-Agenten spielen? Kürzlich hat Kuaishou Open Source „KwaiAgents“ zum Thema Skifahren am Wochenende bereitgestellt. Es wird Ihnen nicht nur dabei helfen, einen Veranstaltungsort zu finden, sondern auch das Wetter für diesen Tag zu berücksichtigen.

Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!

Wie wir alle wissen, beherrschen große Sprachmodelle (LLM) eine große Menge an Wissen durch die Modellierung von Sprache und verfügen über bestimmte kognitive Fähigkeiten und Argumentationsfähigkeiten. Allerdings erzeugt derzeit selbst das leistungsstärkste GPT-4 bei alleiniger Verwendung falsche Inhalte und kann nicht in Echtzeit mit der Welt interagieren. KI-Agenten sind eine Möglichkeit, dieses Problem zu lösen. Durch die Stimulierung der Fähigkeit großer Modelle, Aufgaben zu planen, zu reflektieren und Tools aufzurufen, können große Modelle reale Tools verwenden, um die Genauigkeit generierter Inhalte zu verbessern und sogar komplexe Probleme zu lösen Probleme. Diesmal ermöglichen die von Kuaishou und dem Harbin Institute of Technology gemeinsam entwickelten „KwaiAgents“ dem „kleinen“ großen Modell von 7B/13B, die Wirkung von GPT-3.5 zu übertreffen, und diese Systeme, Modelle, Daten und Auswertungen sind alle Open Source!

Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!

Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!


  • Technischer Bericht: https://arxiv.org/abs/2312.04889
  • Projekthomepage: https://github.com/ KwaiK EG/KwaiAgents

Folgende Inhalte finden Sie auf der Github-Homepage von „KwaiAgents“:

  1. System (KAgentSys-Lite): ein leichtes KI-Agentensystem, das mit sachlichen und zeitgemäßen Toolsets ausgestattet ist;
  2. Modell (KAgentLMs): Nach dem Meta-Agent-Tuning eine Reihe großer Modelle mit gemeinsamen Fähigkeiten von Agenten und ihren Trainingsdaten .

Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!System

Zu den Hauptkomponenten des KAgentSys-Systems gehören ein kognitiver Kern, ein Speichermechanismus und eine Werkzeugbibliothek, die auf großen Modellen basiert, um eine iterative Automatisierung zu erreichen.

Speichermechanismus: einschließlich The Drei Arten von Speicher, Wissensdatenbank, Dialog und Aufgabenverlauf, basieren auf dem Abrufrahmen von Hybrid-Vektorabruf, Schlüsselwortabruf und anderen Technologien, um die erforderlichen Informationen in jedem geplanten Pfad abzurufen.

  1. Toolset: Enthält ein faktenerweitertes Toolset, das Wissen aus mehreren Quellen wie Webseiten, Textenzyklopädien und Videoenzyklopädien zusammenführen kann, einschließlich Kalendern, Feiertagen, Zeitunterschieden, Wetter und anderen Gemeinsame Aktualität Erweitertes Toolset.
  2. Automatisierte Schleife: In einer Dialogrunde erhält der Benutzer eine Frage, eine optionale Wissensdatenbank und zusätzliche Zeichen zur Eingabe als Ganzes. Das System aktualisiert und ruft zunächst den Speicher ab und ruft dann das große Modell auf Wenn das Tool aufgerufen werden muss, wird es in die Zusammenfassungsphase eintreten. Das große Modell synthetisiert die erwarteten Informationen.
  3. Einige Funktionen von KAgentSys werden schrittweise aktualisiert und geöffnet. Dies ist der Inhalt dieses Open-Source-Modells Die vom Team vorgeschlagene Meta-Agent Tuning (MAT)-Methode verbessert die Vielseitigkeit großer Modelle in Bezug auf die Agentenfunktionen und verbessert den Effekt durch die Einführung weiterer Agenten-Eingabeaufforderungsvorlagen in die Trainingsdaten.

Meta-Agent Tuning (MAT) ist in zwei Phasen unterteilt:

  1. Template-Generierungsphase: Durch das Entwerfen von Meta-Agent wird für einen bestimmten Problemsatz eine instanziierte Agent-Prompt-Vorlage (das Bild rechts ist ein Beispiel) generiert und in derselben experimentellen Umgebung Kandidatenergebnisse generiert, die von der Vorlage erzeugt werden , und die hochzuverlässigen Ergebnisse, die von Open-Source-Vorlagen (wie ReAct, AutoGPT usw.) erzeugt werden, werden mithilfe des Bewertungsmodells verglichen und bewertet, um hochwertige Agent Prompt-Vorlagenbibliotheken herauszufiltern. Durch die Einführung dieser vielfältigen Vorlagen kann die Abhängigkeit von Vorlagen bei der Feinabstimmung des Modells deutlich reduziert werden und die Fähigkeiten wichtigerer Agenten bei der Aufgabenplanung, Werkzeugnutzung, Reflexion usw. können verfeinert werden, wodurch die Generalisierung und Effektivität des Modells verbessert wird .
  2. Instruktions-Feinabstimmungsphase: Basierend auf Zehntausenden von Vorlagen wurden mehr als 200.000 Feinabstimmungsdaten für Agent-Tuning-Anweisungen erstellt. Das Team hat einige beliebte Open-Source-Modelle wie Qwen-7B, Baichuan2-13B usw. für die Verwendung und Referenz für jedermann optimiert, und weitere beliebte Modelle werden in Zukunft veröffentlicht.

Evaluation

KAgentBench hat durch Tausende von manuell verfeinerten annotierten Daten eine sofort einsatzbereite Nutzung erreicht, sodass jeder mit einer Befehlszeile die verschiedenen Aspekte der Agentenfunktionen eines großen Modells bewerten kann verschiedene Vorlagen.

Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!

In KAgentBench führen wir, wie in der Abbildung oben gezeigt, eine Eingabekonstruktion für verschiedene Arten von Fähigkeiten durch. Zu jeder Abfrage gehören mehrere Vorlagen und mehrere echte, von Menschen bearbeitete Antworten. Der Zweck besteht darin, die Genauigkeit und Verallgemeinerung umfassend zu bewerten. Nach der MAT-Optimierung zeigt die folgende Tabelle die Verbesserung des 7B-13B-Modells in verschiedenen Funktionen und übertrifft die Wirkung von GPT-3.5 und zeitkritische Fragen werden mit Anmerkungen versehen, wie zum Beispiel „Wie alt ist Andy Lau dieses Jahr?“ Die Ergebnisse zeigen, dass das Modell nach dem KAgentSys-System und MAT seit einiger Zeit erheblich verbessert wurde (die Richtigkeit wird in Prozent ausgedrückt und die durchschnittliche Punktzahl auf einer 5-Punkte-Skala steht in Klammern). -Tail-Probleme und beliebte Probleme: Normalerweise sind die Ergebnisse, die ausschließlich auf Websuchen basieren, nicht ideal. Wenn Sie beispielsweise eine lange Frage wie „Wie viele Tage ist Antonella älter als Messi?“ stellen, werden in den Suchergebnissen normalerweise Gerüchte über sie angezeigt, ohne dass wichtige Informationen bereitgestellt werden. KAgentSys kann diese Frage genau beantworten, indem es das Enzyklopädie-Suchtool aufruft, um das genaue Geburtsdatum zu ermitteln, und dann das Zeitdifferenz-Tool verwendet, um den Altersunterschied zu berechnen. Das Team sagte, dass AI Agents ein sehr vielversprechender Weg sei. Auch in Zukunft werden wir Kerntechnologien weiter ausbauen und der gesamten Community kontinuierlich neue Vitalität verleihen. Gleichzeitig werden wir auch aktiv die Kombination von Agententechnologie und Kuaishou-Geschäft erkunden und versuchen, weitere interessante und wertvolle innovative Anwendungen zu implementieren

Das obige ist der detaillierte Inhalt vonKuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

Video Face Swap

Video Face Swap

Tauschen Sie Gesichter in jedem Video mühelos mit unserem völlig kostenlosen KI-Gesichtstausch-Tool aus!

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Open Source! Jenseits von ZoeDepth! DepthFM: Schnelle und genaue monokulare Tiefenschätzung! Open Source! Jenseits von ZoeDepth! DepthFM: Schnelle und genaue monokulare Tiefenschätzung! Apr 03, 2024 pm 12:04 PM

0.Was bewirkt dieser Artikel? Wir schlagen DepthFM vor: ein vielseitiges und schnelles generatives monokulares Tiefenschätzungsmodell auf dem neuesten Stand der Technik. Zusätzlich zu herkömmlichen Tiefenschätzungsaufgaben demonstriert DepthFM auch hochmoderne Fähigkeiten bei nachgelagerten Aufgaben wie dem Tiefen-Inpainting. DepthFM ist effizient und kann Tiefenkarten innerhalb weniger Inferenzschritte synthetisieren. Lassen Sie uns diese Arbeit gemeinsam lesen ~ 1. Titel der Papierinformationen: DepthFM: FastMonocularDepthEstimationwithFlowMatching Autor: MingGui, JohannesS.Fischer, UlrichPrestel, PingchuanMa, Dmytr

Das weltweit leistungsstärkste Open-Source-MoE-Modell ist da, mit chinesischen Fähigkeiten, die mit GPT-4 vergleichbar sind, und der Preis beträgt nur fast ein Prozent von GPT-4-Turbo Das weltweit leistungsstärkste Open-Source-MoE-Modell ist da, mit chinesischen Fähigkeiten, die mit GPT-4 vergleichbar sind, und der Preis beträgt nur fast ein Prozent von GPT-4-Turbo May 07, 2024 pm 04:13 PM

Stellen Sie sich ein Modell der künstlichen Intelligenz vor, das nicht nur die Fähigkeit besitzt, die traditionelle Datenverarbeitung zu übertreffen, sondern auch eine effizientere Leistung zu geringeren Kosten erzielt. Dies ist keine Science-Fiction, DeepSeek-V2[1], das weltweit leistungsstärkste Open-Source-MoE-Modell, ist da. DeepSeek-V2 ist ein leistungsstarkes MoE-Sprachmodell (Mix of Experts) mit den Merkmalen eines wirtschaftlichen Trainings und einer effizienten Inferenz. Es besteht aus 236B Parametern, von denen 21B zur Aktivierung jedes Markers verwendet werden. Im Vergleich zu DeepSeek67B bietet DeepSeek-V2 eine stärkere Leistung, spart gleichzeitig 42,5 % der Trainingskosten, reduziert den KV-Cache um 93,3 % und erhöht den maximalen Generierungsdurchsatz auf das 5,76-fache. DeepSeek ist ein Unternehmen, das sich mit allgemeiner künstlicher Intelligenz beschäftigt

KI untergräbt die mathematische Forschung! Der Gewinner der Fields-Medaille und der chinesisch-amerikanische Mathematiker führten 11 hochrangige Arbeiten an | Gefällt mir bei Terence Tao KI untergräbt die mathematische Forschung! Der Gewinner der Fields-Medaille und der chinesisch-amerikanische Mathematiker führten 11 hochrangige Arbeiten an | Gefällt mir bei Terence Tao Apr 09, 2024 am 11:52 AM

KI verändert tatsächlich die Mathematik. Vor kurzem hat Tao Zhexuan, der diesem Thema große Aufmerksamkeit gewidmet hat, die neueste Ausgabe des „Bulletin of the American Mathematical Society“ (Bulletin der American Mathematical Society) weitergeleitet. Zum Thema „Werden Maschinen die Mathematik verändern?“ äußerten viele Mathematiker ihre Meinung. Der gesamte Prozess war voller Funken, knallhart und aufregend. Der Autor verfügt über eine starke Besetzung, darunter der Fields-Medaillengewinner Akshay Venkatesh, der chinesische Mathematiker Zheng Lejun, der NYU-Informatiker Ernest Davis und viele andere bekannte Wissenschaftler der Branche. Die Welt der KI hat sich dramatisch verändert. Viele dieser Artikel wurden vor einem Jahr eingereicht.

Hallo, elektrischer Atlas! Der Boston Dynamics-Roboter erwacht wieder zum Leben, seltsame 180-Grad-Bewegungen machen Musk Angst Hallo, elektrischer Atlas! Der Boston Dynamics-Roboter erwacht wieder zum Leben, seltsame 180-Grad-Bewegungen machen Musk Angst Apr 18, 2024 pm 07:58 PM

Boston Dynamics Atlas tritt offiziell in die Ära der Elektroroboter ein! Gestern hat sich der hydraulische Atlas einfach „unter Tränen“ von der Bühne der Geschichte zurückgezogen. Heute gab Boston Dynamics bekannt, dass der elektrische Atlas im Einsatz ist. Es scheint, dass Boston Dynamics im Bereich kommerzieller humanoider Roboter entschlossen ist, mit Tesla zu konkurrieren. Nach der Veröffentlichung des neuen Videos wurde es innerhalb von nur zehn Stunden bereits von mehr als einer Million Menschen angesehen. Die alten Leute gehen und neue Rollen entstehen. Das ist eine historische Notwendigkeit. Es besteht kein Zweifel, dass dieses Jahr das explosive Jahr der humanoiden Roboter ist. Netizens kommentierten: Die Weiterentwicklung der Roboter hat dazu geführt, dass die diesjährige Eröffnungsfeier wie Menschen aussieht, und der Freiheitsgrad ist weitaus größer als der von Menschen. Aber ist das wirklich kein Horrorfilm? Zu Beginn des Videos liegt Atlas ruhig auf dem Boden, scheinbar auf dem Rücken. Was folgt, ist atemberaubend

KAN, das MLP ersetzt, wurde durch Open-Source-Projekte auf Faltung erweitert KAN, das MLP ersetzt, wurde durch Open-Source-Projekte auf Faltung erweitert Jun 01, 2024 pm 10:03 PM

Anfang dieses Monats schlugen Forscher des MIT und anderer Institutionen eine vielversprechende Alternative zu MLP vor – KAN. KAN übertrifft MLP in Bezug auf Genauigkeit und Interpretierbarkeit. Und es kann MLP, das mit einer größeren Anzahl von Parametern ausgeführt wird, mit einer sehr kleinen Anzahl von Parametern übertreffen. Beispielsweise gaben die Autoren an, dass sie KAN nutzten, um die Ergebnisse von DeepMind mit einem kleineren Netzwerk und einem höheren Automatisierungsgrad zu reproduzieren. Konkret verfügt DeepMinds MLP über etwa 300.000 Parameter, während KAN nur etwa 200 Parameter hat. KAN hat eine starke mathematische Grundlage wie MLP und basiert auf dem universellen Approximationssatz, während KAN auf dem Kolmogorov-Arnold-Darstellungssatz basiert. Wie in der folgenden Abbildung gezeigt, hat KAN

FisheyeDetNet: der erste Zielerkennungsalgorithmus basierend auf einer Fischaugenkamera FisheyeDetNet: der erste Zielerkennungsalgorithmus basierend auf einer Fischaugenkamera Apr 26, 2024 am 11:37 AM

Die Zielerkennung ist ein relativ ausgereiftes Problem in autonomen Fahrsystemen, wobei die Fußgängererkennung einer der ersten Algorithmen ist, die eingesetzt werden. In den meisten Arbeiten wurde eine sehr umfassende Recherche durchgeführt. Die Entfernungswahrnehmung mithilfe von Fischaugenkameras für die Rundumsicht ist jedoch relativ wenig untersucht. Aufgrund der großen radialen Verzerrung ist es schwierig, die standardmäßige Bounding-Box-Darstellung in Fischaugenkameras zu implementieren. Um die obige Beschreibung zu vereinfachen, untersuchen wir erweiterte Begrenzungsrahmen-, Ellipsen- und allgemeine Polygondesigns in Polar-/Winkeldarstellungen und definieren eine mIOU-Metrik für die Instanzsegmentierung, um diese Darstellungen zu analysieren. Das vorgeschlagene Modell „fisheyeDetNet“ mit polygonaler Form übertrifft andere Modelle und erreicht gleichzeitig 49,5 % mAP auf dem Valeo-Fisheye-Kameradatensatz für autonomes Fahren

Die Vitalität der Superintelligenz erwacht! Aber mit der Einführung der sich selbst aktualisierenden KI müssen sich Mütter keine Sorgen mehr über Datenengpässe machen Die Vitalität der Superintelligenz erwacht! Aber mit der Einführung der sich selbst aktualisierenden KI müssen sich Mütter keine Sorgen mehr über Datenengpässe machen Apr 29, 2024 pm 06:55 PM

Ich weine zu Tode. Die Daten im Internet reichen überhaupt nicht aus. Das Trainingsmodell sieht aus wie „Die Tribute von Panem“, und KI-Forscher auf der ganzen Welt machen sich Gedanken darüber, wie sie diese datenhungrigen Esser ernähren sollen. Dieses Problem tritt insbesondere bei multimodalen Aufgaben auf. Zu einer Zeit, als sie ratlos waren, nutzte ein Start-up-Team der Abteilung der Renmin-Universität von China sein eigenes neues Modell, um als erstes in China einen „modellgenerierten Datenfeed selbst“ in die Realität umzusetzen. Darüber hinaus handelt es sich um einen zweigleisigen Ansatz auf der Verständnisseite und der Generierungsseite. Beide Seiten können hochwertige, multimodale neue Daten generieren und Datenrückmeldungen an das Modell selbst liefern. Was ist ein Modell? Awaker 1.0, ein großes multimodales Modell, das gerade im Zhongguancun-Forum erschienen ist. Wer ist das Team? Sophon-Motor. Gegründet von Gao Yizhao, einem Doktoranden an der Hillhouse School of Artificial Intelligence der Renmin University.

Tesla-Roboter arbeiten in Fabriken, Musk: Der Freiheitsgrad der Hände wird dieses Jahr 22 erreichen! Tesla-Roboter arbeiten in Fabriken, Musk: Der Freiheitsgrad der Hände wird dieses Jahr 22 erreichen! May 06, 2024 pm 04:13 PM

Das neueste Video von Teslas Roboter Optimus ist veröffentlicht und er kann bereits in der Fabrik arbeiten. Bei normaler Geschwindigkeit sortiert es Batterien (Teslas 4680-Batterien) so: Der Beamte hat auch veröffentlicht, wie es bei 20-facher Geschwindigkeit aussieht – auf einer kleinen „Workstation“, pflücken und pflücken und pflücken: Dieses Mal wird es freigegeben. Eines der Highlights Der Vorteil des Videos besteht darin, dass Optimus diese Arbeit in der Fabrik völlig autonom und ohne menschliches Eingreifen während des gesamten Prozesses erledigt. Und aus Sicht von Optimus kann es auch die krumme Batterie aufnehmen und platzieren, wobei der Schwerpunkt auf der automatischen Fehlerkorrektur liegt: In Bezug auf die Hand von Optimus gab der NVIDIA-Wissenschaftler Jim Fan eine hohe Bewertung ab: Die Hand von Optimus ist der fünffingrige Roboter der Welt am geschicktesten. Seine Hände sind nicht nur taktil

See all articles