


Aufmerksamkeitsfreies großes Modell Eagle7B: Basierend auf RWKV werden die Inferenzkosten um das 10- bis 100-fache reduziert
Aufmerksamkeitsfreies großes Modell Eagle7B: Basierend auf RWKV werden die Inferenzkosten um das 10- bis 100-fache reduziert
Im KI-Bereich haben kleine Modelle in letzter Zeit viel Aufmerksamkeit auf sich gezogen, verglichen mit Modellen mit Hunderten von Milliarden Parameter. Beispielsweise übertraf das vom französischen KI-Startup veröffentlichte Mistral-7B-Modell Llama 2 in jedem Benchmark um 13 Milliarden und Llama 1 um 34 Milliarden in Code, Mathematik und Inferenz.
Im Vergleich zu großen Modellen haben kleine Modelle viele Vorteile, wie zum Beispiel einen geringen Bedarf an Rechenleistung und die Möglichkeit, auf der Geräteseite zu laufen.
Kürzlich ist ein neues Sprachmodell aufgetaucht, nämlich 7.52B Parameter Eagle 7B, von der Open-Source-Non-Profit-Organisation RWKV, das die folgenden Merkmale aufweist:
- Basierend auf RWKV -v5-Architekturkonstruktion, die Inferenzkosten dieser Architektur sind niedrig (RWKV ist ein linearer Transformator, die Inferenzkosten werden um mehr als das 10- bis 100-fache reduziert);
- Trainiert auf mehr als 100 Sprachen und 1,1 Billionen Token ;
- Übertrifft alle Modelle der 7B-Klasse in mehrsprachigen Benchmarks.
- In der englischen Bewertung liegt die Leistung von Eagle 7B nahe an Falcon (1,5T), LLaMA2 (2T),
- Verglichen mit MPT - in englischer Bewertung 7B (1T) Ziemlich;
- Transformer ohne Aufmerksamkeit.
Eagle 7B basiert auf der RWKV-v5-Architektur. RWKV (Receptance Weighted Key Value) ist eine neuartige Architektur, die die Vorteile von RNN und Transformer kombiniert und deren Nachteile vermeidet. Es ist sehr gut gestaltet und kann die Speicher- und Erweiterungsengpässe von Transformer lindern und eine effektivere lineare Erweiterung erreichen. Gleichzeitig behält RWKV auch einige der Eigenschaften bei, die Transformer auf diesem Gebiet dominant gemacht haben.
Derzeit wurde RWKV zur sechsten Generation RWKV-6 iteriert, mit ähnlicher Leistung und Größe wie Transformer. Zukünftige Forscher können diese Architektur nutzen, um effizientere Modelle zu erstellen.
Weitere Informationen zu RWKV finden Sie unter „RNN in der Transformer-Ära umgestalten, RWKV erweitert Nicht-Transformer-Architektur auf zig Milliarden Parameter“.
Erwähnenswert ist, dass RWKV-v5 Eagle 7B ohne Einschränkungen für den persönlichen oder kommerziellen Gebrauch genutzt werden kann.
Testergebnisse für 23 Sprachen
Die Leistung verschiedener Modelle in mehreren Sprachen ist wie folgt. Die Testbenchmarks umfassen xLAMBDA, xStoryCloze, xWinograd, xCopa. 23 Sprachen insgesamt bis v5. Aufgrund des Fehlens mehrsprachiger Benchmarks kann die Studie ihre Fähigkeiten jedoch nur in 23 häufiger verwendeten Sprachen testen, und die Fähigkeiten in den verbleibenden 75 oder mehr Sprachen sind noch unbekannt.
Die Leistung verschiedener Modelle auf Englisch wird anhand von 12 Benchmarks beurteilt, einschließlich gesundem Menschenverstand und Weltwissen.
An den Ergebnissen können wir erneut den großen Sprung von RWKV von der v4- zur v5-Architektur erkennen. v4 verlor zuvor gegen den 1T-Token MPT-7b, aber v5 hat in Benchmark-Tests begonnen, aufzuholen und kann in einigen Fällen (sogar in einigen Benchmark-Tests LAMBADA, StoryCloze16, WinoGrande, HeadQA_en, Sciq) Falcon oder sogar llama2 übertreffen .
Darüber hinaus beginnt sich die Leistung von Version 5 anhand der ungefähren Token-Trainingsstatistiken an die erwarteten Leistungsniveaus von Transformer anzupassen. Zuvor verwendete Mistral-7B eine Trainingsmethode von 2-7 Billionen Token, um seinen Vorsprung im 7B-Modell zu behaupten. Die Studie hofft, diese Lücke zu schließen, sodass RWKV-v5 Eagle 7B die Leistung von llama2 übertrifft und das Niveau von Mistral erreicht. Die folgende Abbildung zeigt, dass die Kontrollpunkte von RWKV-v5 Eagle 7B in der Nähe von 300 Milliarden Token-Punkten eine ähnliche Leistung wie Pythia-6.9b aufweisen: Dies steht im Einklang mit früheren Arbeiten an der experimentellen RWKV-v4-Architektur ( Stapelbasierte) Übereinstimmung besteht darin, dass lineare Transformatoren wie RWKV ein ähnliches Leistungsniveau wie Transformatoren aufweisen und mit der gleichen Anzahl von Token trainiert werden. Vorhersehbar markiert die Entstehung dieses Modells die Einführung des bisher stärksten linearen Transformators (in Bezug auf Bewertungsmaßstäbe).
Das obige ist der detaillierte Inhalt vonAufmerksamkeitsfreies großes Modell Eagle7B: Basierend auf RWKV werden die Inferenzkosten um das 10- bis 100-fache reduziert. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heiße KI -Werkzeuge

Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool
Ausziehbilder kostenlos

Clothoff.io
KI-Kleiderentferner

AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

Heiße Werkzeuge

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen



0.Was bewirkt dieser Artikel? Wir schlagen DepthFM vor: ein vielseitiges und schnelles generatives monokulares Tiefenschätzungsmodell auf dem neuesten Stand der Technik. Zusätzlich zu herkömmlichen Tiefenschätzungsaufgaben demonstriert DepthFM auch hochmoderne Fähigkeiten bei nachgelagerten Aufgaben wie dem Tiefen-Inpainting. DepthFM ist effizient und kann Tiefenkarten innerhalb weniger Inferenzschritte synthetisieren. Lassen Sie uns diese Arbeit gemeinsam lesen ~ 1. Titel der Papierinformationen: DepthFM: FastMonocularDepthEstimationwithFlowMatching Autor: MingGui, JohannesS.Fischer, UlrichPrestel, PingchuanMa, Dmytr

Stellen Sie sich ein Modell der künstlichen Intelligenz vor, das nicht nur die Fähigkeit besitzt, die traditionelle Datenverarbeitung zu übertreffen, sondern auch eine effizientere Leistung zu geringeren Kosten erzielt. Dies ist keine Science-Fiction, DeepSeek-V2[1], das weltweit leistungsstärkste Open-Source-MoE-Modell, ist da. DeepSeek-V2 ist ein leistungsstarkes MoE-Sprachmodell (Mix of Experts) mit den Merkmalen eines wirtschaftlichen Trainings und einer effizienten Inferenz. Es besteht aus 236B Parametern, von denen 21B zur Aktivierung jedes Markers verwendet werden. Im Vergleich zu DeepSeek67B bietet DeepSeek-V2 eine stärkere Leistung, spart gleichzeitig 42,5 % der Trainingskosten, reduziert den KV-Cache um 93,3 % und erhöht den maximalen Generierungsdurchsatz auf das 5,76-fache. DeepSeek ist ein Unternehmen, das sich mit allgemeiner künstlicher Intelligenz beschäftigt

Anfang dieses Monats schlugen Forscher des MIT und anderer Institutionen eine vielversprechende Alternative zu MLP vor – KAN. KAN übertrifft MLP in Bezug auf Genauigkeit und Interpretierbarkeit. Und es kann MLP, das mit einer größeren Anzahl von Parametern ausgeführt wird, mit einer sehr kleinen Anzahl von Parametern übertreffen. Beispielsweise gaben die Autoren an, dass sie KAN nutzten, um die Ergebnisse von DeepMind mit einem kleineren Netzwerk und einem höheren Automatisierungsgrad zu reproduzieren. Konkret verfügt DeepMinds MLP über etwa 300.000 Parameter, während KAN nur etwa 200 Parameter hat. KAN hat eine starke mathematische Grundlage wie MLP und basiert auf dem universellen Approximationssatz, während KAN auf dem Kolmogorov-Arnold-Darstellungssatz basiert. Wie in der folgenden Abbildung gezeigt, hat KAN

Boston Dynamics Atlas tritt offiziell in die Ära der Elektroroboter ein! Gestern hat sich der hydraulische Atlas einfach „unter Tränen“ von der Bühne der Geschichte zurückgezogen. Heute gab Boston Dynamics bekannt, dass der elektrische Atlas im Einsatz ist. Es scheint, dass Boston Dynamics im Bereich kommerzieller humanoider Roboter entschlossen ist, mit Tesla zu konkurrieren. Nach der Veröffentlichung des neuen Videos wurde es innerhalb von nur zehn Stunden bereits von mehr als einer Million Menschen angesehen. Die alten Leute gehen und neue Rollen entstehen. Das ist eine historische Notwendigkeit. Es besteht kein Zweifel, dass dieses Jahr das explosive Jahr der humanoiden Roboter ist. Netizens kommentierten: Die Weiterentwicklung der Roboter hat dazu geführt, dass die diesjährige Eröffnungsfeier wie Menschen aussieht, und der Freiheitsgrad ist weitaus größer als der von Menschen. Aber ist das wirklich kein Horrorfilm? Zu Beginn des Videos liegt Atlas ruhig auf dem Boden, scheinbar auf dem Rücken. Was folgt, ist atemberaubend

KI verändert tatsächlich die Mathematik. Vor kurzem hat Tao Zhexuan, der diesem Thema große Aufmerksamkeit gewidmet hat, die neueste Ausgabe des „Bulletin of the American Mathematical Society“ (Bulletin der American Mathematical Society) weitergeleitet. Zum Thema „Werden Maschinen die Mathematik verändern?“ äußerten viele Mathematiker ihre Meinung. Der gesamte Prozess war voller Funken, knallhart und aufregend. Der Autor verfügt über eine starke Besetzung, darunter der Fields-Medaillengewinner Akshay Venkatesh, der chinesische Mathematiker Zheng Lejun, der NYU-Informatiker Ernest Davis und viele andere bekannte Wissenschaftler der Branche. Die Welt der KI hat sich dramatisch verändert. Viele dieser Artikel wurden vor einem Jahr eingereicht.

Stehen Sie vor einer Verzögerung oder einer langsamen mobilen Datenverbindung auf dem iPhone? Normalerweise hängt die Stärke des Mobilfunk-Internets auf Ihrem Telefon von mehreren Faktoren ab, wie z. B. der Region, dem Mobilfunknetztyp, dem Roaming-Typ usw. Es gibt einige Dinge, die Sie tun können, um eine schnellere und zuverlässigere Mobilfunk-Internetverbindung zu erhalten. Fix 1 – Neustart des iPhone erzwingen Manchmal werden durch einen erzwungenen Neustart Ihres Geräts viele Dinge zurückgesetzt, einschließlich der Mobilfunkverbindung. Schritt 1 – Drücken Sie einfach einmal die Lauter-Taste und lassen Sie sie los. Drücken Sie anschließend die Leiser-Taste und lassen Sie sie wieder los. Schritt 2 – Der nächste Teil des Prozesses besteht darin, die Taste auf der rechten Seite gedrückt zu halten. Lassen Sie das iPhone den Neustart abschließen. Aktivieren Sie Mobilfunkdaten und überprüfen Sie die Netzwerkgeschwindigkeit. Überprüfen Sie es erneut. Fix 2 – Datenmodus ändern 5G bietet zwar bessere Netzwerkgeschwindigkeiten, funktioniert jedoch besser, wenn das Signal schwächer ist

Ich weine zu Tode. Die Daten im Internet reichen überhaupt nicht aus. Das Trainingsmodell sieht aus wie „Die Tribute von Panem“, und KI-Forscher auf der ganzen Welt machen sich Gedanken darüber, wie sie diese datenhungrigen Esser ernähren sollen. Dieses Problem tritt insbesondere bei multimodalen Aufgaben auf. Zu einer Zeit, als sie ratlos waren, nutzte ein Start-up-Team der Abteilung der Renmin-Universität von China sein eigenes neues Modell, um als erstes in China einen „modellgenerierten Datenfeed selbst“ in die Realität umzusetzen. Darüber hinaus handelt es sich um einen zweigleisigen Ansatz auf der Verständnisseite und der Generierungsseite. Beide Seiten können hochwertige, multimodale neue Daten generieren und Datenrückmeldungen an das Modell selbst liefern. Was ist ein Modell? Awaker 1.0, ein großes multimodales Modell, das gerade im Zhongguancun-Forum erschienen ist. Wer ist das Team? Sophon-Motor. Gegründet von Gao Yizhao, einem Doktoranden an der Hillhouse School of Artificial Intelligence der Renmin University.

Kürzlich wurde die Militärwelt von der Nachricht überwältigt: US-Militärkampfflugzeuge können jetzt mithilfe von KI vollautomatische Luftkämpfe absolvieren. Ja, erst kürzlich wurde der KI-Kampfjet des US-Militärs zum ersten Mal der Öffentlichkeit zugänglich gemacht und sein Geheimnis gelüftet. Der vollständige Name dieses Jägers lautet „Variable Stability Simulator Test Aircraft“ (VISTA). Er wurde vom Minister der US-Luftwaffe persönlich geflogen, um einen Eins-gegen-eins-Luftkampf zu simulieren. Am 2. Mai startete US-Luftwaffenminister Frank Kendall mit einer X-62AVISTA auf der Edwards Air Force Base. Beachten Sie, dass während des einstündigen Fluges alle Flugaktionen autonom von der KI durchgeführt wurden! Kendall sagte: „In den letzten Jahrzehnten haben wir über das unbegrenzte Potenzial des autonomen Luft-Luft-Kampfes nachgedacht, aber es schien immer unerreichbar.“ Nun jedoch,
