


Die LLM-Leistung wird um bis zu 60 % verbessert! Google ICLR 2024-Meisterwerk: Lassen Sie das große Sprachmodell die „Sprache der Graphen' lernen
Im Bereich der Informatik besteht eine Graphstruktur aus Knoten (die Entitäten darstellen) und Kanten (die Beziehungen zwischen Entitäten darstellen).
Bilder sind überall.
Das Internet kann als riesiges Netzwerk betrachtet werden, und Suchmaschinen verwenden grafische Methoden, um Informationen zu organisieren und anzuzeigen.
LLMs werden hauptsächlich auf regulären Text trainiert, daher ist die Umwandlung von Diagrammen in für LLMs verständliche Texte eine anspruchsvolle Aufgabe, da sich die Diagrammstruktur grundlegend von der Textstruktur unterscheidet.
Auf der ICLR 2024 untersuchte ein Team von Google, wie man Diagrammdaten in eine für LLMs verständliche Form umwandeln kann.
Papieradresse: https://openreview.net/pdf?id=IuXR1CCrSi
Verwenden Sie zwei verschiedene Methoden, um die Grafiken in Text zu kodieren und den Text und die Fragen an LLM zurückzuleiten Dabei
haben sie auch einen Benchmark namens GraphQA entwickelt, um Möglichkeiten zur Lösung verschiedener Probleme beim Graphenschluss zu erkunden und zu zeigen, wie diese Probleme auf eine Weise ausgedrückt werden können, die für LLM bei der Lösung graphbezogener Probleme von Vorteil ist.
Mit der richtigen Methode können LLMs die Leistung von Grafikaufgaben um bis zu 60 % verbessern.
GraphOA: Eine „Prüfung“ für LLMs
Zunächst hat das Google-Team den GraphQA-Benchmark entwickelt, der als Prüfung angesehen werden kann, die darauf abzielt, die Fähigkeit von LLMs zu bewerten, bestimmte Diagrammprobleme zu lösen.
GraphOA stellt Vielfalt in der Breite und Anzahl der Verbindungen sicher, indem es mehrere Arten von Diagrammen verwendet, um mögliche Abweichungen in LLMs bei der Verarbeitung von Diagrammen zu finden, und bringt den gesamten Prozess näher an die Bedingungen heran, denen LLMs in praktischen Anwendungen begegnen können.
Ein Framework für das Denken mit LLMs unter Verwendung von GraphIQA
Obwohl die Aufgaben einfach sind, wie z. B. die Prüfung, ob Kanten vorhanden sind, die Berechnung der Anzahl von Knoten oder Kanten usw., erfordern diese Aufgaben, dass LLMs die verstehen Beziehung zwischen Knoten und Kanten Die Beziehung zwischen ihnen ist für komplexere grafische Überlegungen von entscheidender Bedeutung.
Gleichzeitig untersuchte das Team auch, wie man Diagramme in Text umwandelt, den LLMs verarbeiten können, beispielsweise um die folgenden zwei Schlüsselprobleme zu lösen:
Knotenkodierung: Wie stellen wir einen einzelnen Knoten dar? Knoten können einfache Ganzzahlen, gebräuchliche Namen (Personen, Zeichen) und Buchstaben enthalten.
Edge Coding: Wie beschreiben wir die Beziehungen zwischen Knoten? Methoden können Klammern, Phrasen (z. B. „sind Freunde“) und symbolische Darstellungen (z. B. Pfeile) umfassen.
Letztendlich kombinierten die Forscher systematisch verschiedene Knoten- und Kantenkodierungsmethoden, um Funktionen wie die in der folgenden Abbildung gezeigten zu erzeugen.
Beispiel für eine Graphkodierungsfunktion
Wie funktionieren LLMs?
Das Forschungsteam führte drei Schlüsselexperimente zu GraphOA durch:
- Testen der Fähigkeit von LLMs, Grafikaufgaben zu bewältigen
- Testen des Einflusses der Größe von LLMs auf die Leistung
- Testen des Einflusses verschiedener Diagrammformen auf die Leistung Auswirkung
Im ersten Experiment schnitten LLMs mittelmäßig ab, und bei den meisten grundlegenden Aufgaben schnitten LLMs nicht besser ab als zufällige Schätzungen.
Aber die Kodierungsmethode beeinflusst die Ergebnisse erheblich. Wie in der Abbildung unten gezeigt, funktioniert die „Vorfall“-Kodierung in den meisten Fällen gut. Die Auswahl der geeigneten Kodierungsfunktion kann die Genauigkeit der Aufgabe erheblich verbessern.
Vergleich verschiedener Graph-Encoder-Funktionen basierend auf unterschiedlicher Aufgabengenauigkeit
Im zweiten Test testeten die Forscher dieselbe Graph-Aufgabe an Modellen unterschiedlicher Größe.
Was die Schlussfolgerung betrifft, so schnitt das größere Modell bei der Graphinferenzaufgabe besser ab,
Interessanterweise ist jedoch bei der Aufgabe „Kantenexistenz“ (Bestimmen, ob zwei Knoten im Diagramm verbunden sind) die Größe gleich nicht so wichtig wie andere Aufgaben.
Selbst das größte LLM kann einfache Basislösungen für das Zyklusprüfungsproblem (Bestimmen, ob ein Zyklus im Diagramm vorhanden ist) nicht immer schlagen. Dies zeigt, dass LLMs bei bestimmten Grafikaufgaben noch Verbesserungspotenzial haben.
Der Einfluss der Modellkapazität auf Graph-Argumentation-Aufgaben von PaLM 2-XXS. Menschen verwenden GraphOA, um Diagramme unterschiedlicher Strukturen für die Analyse zu erstellen.
Beispiele für Diagramme, die von verschiedenen Diagrammgeneratoren von GraphQA generiert wurden. ER, BA, SBM und SFN sind Erdős-Rényi, Barabási-Albert, stochastische Blockmodelle bzw. skalenfreie Netzwerke.
Die Ergebnisse zeigen, dass die Struktur des Diagramms einen großen Einfluss auf die Leistung von LLMs hat.
Bei einer Aufgabe, die fragt, ob Schleifen vorhanden sind, schneiden LLMs beispielsweise gut in eng verbundenen Diagrammen ab (wo Schleifen häufig vorkommen), aber schlecht in Pfaddiagrammen (wo Schleifen nie auftreten).
Aber gleichzeitig hilft die Bereitstellung einiger gemischter Proben LLMs bei der Anpassung. Beispielsweise haben die Forscher in der Zykluserkennungsaufgabe einige Beispiele, die Zyklen enthalten, und einige, die keine Zyklen enthalten, als Beispiele für wenige hinzugefügt. Durch diese Methode wird die Leistung von LLMs verbessert.
Vergleichen Sie verschiedene Diagrammgeneratoren für verschiedene Diagrammaufgaben. Die wichtigste Beobachtung ist, dass die Diagrammstruktur einen erheblichen Einfluss auf die Leistung von LLM hat. ER, BA, SBM und SFN beziehen sich auf Erdős-Rényi, Barabási-Albert, das stochastische Blockmodell bzw. das skalenfreie Netzwerk.
Das ist erst der Anfang, damit LLMs Diagramme verstehen können.
In dem Artikel untersuchte das Google-Team zunächst, wie man Diagramme am besten als Text darstellt, damit LLMs sie verstehen können.
Verbessert die Genauigkeit von LLMs bei Diagrammproblemen erheblich (von etwa 5 % auf über 60 % Verbesserung) mithilfe korrekter Codierungstechniken.
Wir haben außerdem drei Haupteinflussfaktoren identifiziert: die Kodierungsmethode zum Konvertieren von Grafiken in Text, die Aufgabentypen verschiedener Grafiken und die Dichtestruktur von Grafiken.
Dies ist für LLMs erst der Anfang, Diagramme zu verstehen. Mithilfe des neuen Benchmarks GraphQA freuen wir uns auf weitere Forschung, um weitere Möglichkeiten von LLMs zu erkunden.
Das obige ist der detaillierte Inhalt vonDie LLM-Leistung wird um bis zu 60 % verbessert! Google ICLR 2024-Meisterwerk: Lassen Sie das große Sprachmodell die „Sprache der Graphen' lernen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heiße KI -Werkzeuge

Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool
Ausziehbilder kostenlos

Clothoff.io
KI-Kleiderentferner

AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

Heiße Werkzeuge

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen

0.Was bewirkt dieser Artikel? Wir schlagen DepthFM vor: ein vielseitiges und schnelles generatives monokulares Tiefenschätzungsmodell auf dem neuesten Stand der Technik. Zusätzlich zu herkömmlichen Tiefenschätzungsaufgaben demonstriert DepthFM auch hochmoderne Fähigkeiten bei nachgelagerten Aufgaben wie dem Tiefen-Inpainting. DepthFM ist effizient und kann Tiefenkarten innerhalb weniger Inferenzschritte synthetisieren. Lassen Sie uns diese Arbeit gemeinsam lesen ~ 1. Titel der Papierinformationen: DepthFM: FastMonocularDepthEstimationwithFlowMatching Autor: MingGui, JohannesS.Fischer, UlrichPrestel, PingchuanMa, Dmytr

Stellen Sie sich ein Modell der künstlichen Intelligenz vor, das nicht nur die Fähigkeit besitzt, die traditionelle Datenverarbeitung zu übertreffen, sondern auch eine effizientere Leistung zu geringeren Kosten erzielt. Dies ist keine Science-Fiction, DeepSeek-V2[1], das weltweit leistungsstärkste Open-Source-MoE-Modell, ist da. DeepSeek-V2 ist ein leistungsstarkes MoE-Sprachmodell (Mix of Experts) mit den Merkmalen eines wirtschaftlichen Trainings und einer effizienten Inferenz. Es besteht aus 236B Parametern, von denen 21B zur Aktivierung jedes Markers verwendet werden. Im Vergleich zu DeepSeek67B bietet DeepSeek-V2 eine stärkere Leistung, spart gleichzeitig 42,5 % der Trainingskosten, reduziert den KV-Cache um 93,3 % und erhöht den maximalen Generierungsdurchsatz auf das 5,76-fache. DeepSeek ist ein Unternehmen, das sich mit allgemeiner künstlicher Intelligenz beschäftigt

Anfang dieses Monats schlugen Forscher des MIT und anderer Institutionen eine vielversprechende Alternative zu MLP vor – KAN. KAN übertrifft MLP in Bezug auf Genauigkeit und Interpretierbarkeit. Und es kann MLP, das mit einer größeren Anzahl von Parametern ausgeführt wird, mit einer sehr kleinen Anzahl von Parametern übertreffen. Beispielsweise gaben die Autoren an, dass sie KAN nutzten, um die Ergebnisse von DeepMind mit einem kleineren Netzwerk und einem höheren Automatisierungsgrad zu reproduzieren. Konkret verfügt DeepMinds MLP über etwa 300.000 Parameter, während KAN nur etwa 200 Parameter hat. KAN hat eine starke mathematische Grundlage wie MLP und basiert auf dem universellen Approximationssatz, während KAN auf dem Kolmogorov-Arnold-Darstellungssatz basiert. Wie in der folgenden Abbildung gezeigt, hat KAN

Boston Dynamics Atlas tritt offiziell in die Ära der Elektroroboter ein! Gestern hat sich der hydraulische Atlas einfach „unter Tränen“ von der Bühne der Geschichte zurückgezogen. Heute gab Boston Dynamics bekannt, dass der elektrische Atlas im Einsatz ist. Es scheint, dass Boston Dynamics im Bereich kommerzieller humanoider Roboter entschlossen ist, mit Tesla zu konkurrieren. Nach der Veröffentlichung des neuen Videos wurde es innerhalb von nur zehn Stunden bereits von mehr als einer Million Menschen angesehen. Die alten Leute gehen und neue Rollen entstehen. Das ist eine historische Notwendigkeit. Es besteht kein Zweifel, dass dieses Jahr das explosive Jahr der humanoiden Roboter ist. Netizens kommentierten: Die Weiterentwicklung der Roboter hat dazu geführt, dass die diesjährige Eröffnungsfeier wie Menschen aussieht, und der Freiheitsgrad ist weitaus größer als der von Menschen. Aber ist das wirklich kein Horrorfilm? Zu Beginn des Videos liegt Atlas ruhig auf dem Boden, scheinbar auf dem Rücken. Was folgt, ist atemberaubend

Ich weine zu Tode. Die Daten im Internet reichen überhaupt nicht aus. Das Trainingsmodell sieht aus wie „Die Tribute von Panem“, und KI-Forscher auf der ganzen Welt machen sich Gedanken darüber, wie sie diese datenhungrigen Esser ernähren sollen. Dieses Problem tritt insbesondere bei multimodalen Aufgaben auf. Zu einer Zeit, als sie ratlos waren, nutzte ein Start-up-Team der Abteilung der Renmin-Universität von China sein eigenes neues Modell, um als erstes in China einen „modellgenerierten Datenfeed selbst“ in die Realität umzusetzen. Darüber hinaus handelt es sich um einen zweigleisigen Ansatz auf der Verständnisseite und der Generierungsseite. Beide Seiten können hochwertige, multimodale neue Daten generieren und Datenrückmeldungen an das Modell selbst liefern. Was ist ein Modell? Awaker 1.0, ein großes multimodales Modell, das gerade im Zhongguancun-Forum erschienen ist. Wer ist das Team? Sophon-Motor. Gegründet von Gao Yizhao, einem Doktoranden an der Hillhouse School of Artificial Intelligence der Renmin University.

KI verändert tatsächlich die Mathematik. Vor kurzem hat Tao Zhexuan, der diesem Thema große Aufmerksamkeit gewidmet hat, die neueste Ausgabe des „Bulletin of the American Mathematical Society“ (Bulletin der American Mathematical Society) weitergeleitet. Zum Thema „Werden Maschinen die Mathematik verändern?“ äußerten viele Mathematiker ihre Meinung. Der gesamte Prozess war voller Funken, knallhart und aufregend. Der Autor verfügt über eine starke Besetzung, darunter der Fields-Medaillengewinner Akshay Venkatesh, der chinesische Mathematiker Zheng Lejun, der NYU-Informatiker Ernest Davis und viele andere bekannte Wissenschaftler der Branche. Die Welt der KI hat sich dramatisch verändert. Viele dieser Artikel wurden vor einem Jahr eingereicht.

Was? Wird Zootopia durch heimische KI in die Realität umgesetzt? Zusammen mit dem Video wird ein neues groß angelegtes inländisches Videogenerationsmodell namens „Keling“ vorgestellt. Sora geht einen ähnlichen technischen Weg und kombiniert eine Reihe selbst entwickelter technologischer Innovationen, um Videos zu produzieren, die nicht nur große und vernünftige Bewegungen aufweisen, sondern auch die Eigenschaften der physischen Welt simulieren und über starke konzeptionelle Kombinationsfähigkeiten und Vorstellungskraft verfügen. Den Daten zufolge unterstützt Keling die Erstellung ultralanger Videos von bis zu 2 Minuten mit 30 Bildern pro Sekunde, mit Auflösungen von bis zu 1080p und unterstützt mehrere Seitenverhältnisse. Ein weiterer wichtiger Punkt ist, dass es sich bei Keling nicht um eine vom Labor veröffentlichte Demo oder Video-Ergebnisdemonstration handelt, sondern um eine Anwendung auf Produktebene, die von Kuaishou, einem führenden Anbieter im Bereich Kurzvideos, gestartet wurde. Darüber hinaus liegt das Hauptaugenmerk darauf, pragmatisch zu sein, keine Blankoschecks auszustellen und sofort nach der Veröffentlichung online zu gehen. Das große Modell von Ke Ling wurde bereits in Kuaiying veröffentlicht.

Kürzlich wurde die Militärwelt von der Nachricht überwältigt: US-Militärkampfflugzeuge können jetzt mithilfe von KI vollautomatische Luftkämpfe absolvieren. Ja, erst kürzlich wurde der KI-Kampfjet des US-Militärs zum ersten Mal der Öffentlichkeit zugänglich gemacht und sein Geheimnis gelüftet. Der vollständige Name dieses Jägers lautet „Variable Stability Simulator Test Aircraft“ (VISTA). Er wurde vom Minister der US-Luftwaffe persönlich geflogen, um einen Eins-gegen-eins-Luftkampf zu simulieren. Am 2. Mai startete US-Luftwaffenminister Frank Kendall mit einer X-62AVISTA auf der Edwards Air Force Base. Beachten Sie, dass während des einstündigen Fluges alle Flugaktionen autonom von der KI durchgeführt wurden! Kendall sagte: „In den letzten Jahrzehnten haben wir über das unbegrenzte Potenzial des autonomen Luft-Luft-Kampfes nachgedacht, aber es schien immer unerreichbar.“ Nun jedoch,
