Inhaltsverzeichnis
Einführung in die Methode
Heim Technologie-Peripheriegeräte KI Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen

Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen

Jan 22, 2024 pm 03:21 PM
数据 模型

Transformers Position im Bereich der Großmodelle ist unerschütterlich. Mit zunehmender Modellskala und zunehmender Sequenzlänge werden jedoch die Einschränkungen der traditionellen Transformer-Architektur deutlich. Glücklicherweise ändert sich diese Situation mit dem Aufkommen von Mamba schnell. Seine herausragende Leistung sorgte sofort für Aufsehen in der KI-Community. Das Aufkommen von Mamba hat große Durchbrüche beim groß angelegten Modelltraining und der Sequenzverarbeitung gebracht. Seine Vorteile verbreiten sich schnell in der KI-Community und wecken große Hoffnung für zukünftige Forschung und Anwendungen.

Am vergangenen Donnerstag hat die Einführung von Vision Mamba (Vim) sein großes Potenzial unter Beweis gestellt, das Rückgrat der nächsten Generation des visuellen Basismodells zu werden. Nur einen Tag später schlugen Forscher der Chinesischen Akademie der Wissenschaften, Huawei und des Pengcheng-Labors VMamba vor: Ein visuelles Mamba-Modell mit globalem Empfangsfeld und linearer Komplexität. Diese Arbeit markiert den visuellen Mamba-Model-Swin-Moment.

Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen


  • Papiertitel: VMamba: Visual State Space Model
  • Papieradresse: https://arxiv.org/abs/2401.10166
  • Codeadresse: https://github .com/MzeroMiko/VMamba

CNN und Visual Transformer (ViT) sind derzeit die beiden am weitesten verbreiteten grundlegenden visuellen Modelle. Obwohl CNN eine lineare Komplexität aufweist, verfügt ViT über leistungsfähigere Datenanpassungsfunktionen, jedoch auf Kosten einer höheren Rechenkomplexität. Forscher glauben, dass ViT über eine starke Anpassungsfähigkeit verfügt, da es über ein globales Empfangsfeld und dynamische Gewichte verfügt. Inspiriert durch das Mamba-Modell entwarfen Forscher ein Modell, das sowohl hervorragende Eigenschaften bei linearer Komplexität aufweist, nämlich das Visual State Space Model (VMamba). Umfangreiche Experimente haben gezeigt, dass VMamba bei verschiedenen visuellen Aufgaben gute Leistungen erbringt. Wie in der Abbildung unten gezeigt, erreicht VMamba-S eine Genauigkeit von 83,5 % auf ImageNet-1K, was 3,2 % höher als Vim-S und 0,5 % höher als Swin-S ist.

Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen

Einführung in die Methode

Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen

Der Schlüssel zum Erfolg von VMamba liegt in der Einführung des S6-Modells, das ursprünglich zur Lösung von NLP-Aufgaben (Natural Language Processing) entwickelt wurde. Im Gegensatz zum Aufmerksamkeitsmechanismus von ViT reduziert das S6-Modell die quadratische Komplexität effektiv auf Linearität, indem jedes Element im 1D-Vektor mit vorherigen Scaninformationen interagiert. Dieses Zusammenspiel macht VMamba effizienter bei der Verarbeitung großer Datenmengen. Daher legte die Einführung des S6-Modells eine solide Grundlage für den Erfolg von VMamba.

Da visuelle Signale (z. B. Bilder) jedoch nicht wie Textsequenzen auf natürliche Weise geordnet sind, kann die Datenscanmethode in S6 nicht direkt auf visuelle Signale angewendet werden. Zu diesem Zweck entwickelten Forscher einen Cross-Scan-Scanmechanismus. Cross-Scan-Modul (CSM) verwendet eine Vier-Wege-Scan-Strategie, d. h. das gleichzeitige Scannen aus den vier Ecken der Feature-Map (siehe Abbildung oben). Diese Strategie stellt sicher, dass jedes Element im Feature Informationen von allen anderen Standorten in verschiedene Richtungen integriert und so ein globales Empfangsfeld bildet, ohne die lineare Rechenkomplexität zu erhöhen.

Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen

Basierend auf CSM hat der Autor das 2D-Selective-Scan-Modul (SS2D) entworfen. Wie in der Abbildung oben gezeigt, besteht SS2D aus drei Schritten:

  • scan expand reduziert ein 2D-Feature in einen 1D-Vektor entlang von 4 verschiedenen Richtungen (oben links, unten rechts, unten links, oben rechts).
  • Der S6-Block sendet die vier im vorherigen Schritt erhaltenen 1D-Vektoren unabhängig an die S6-Operation.
  • Scan Merge verschmilzt die resultierenden 4 1D-Vektoren zu einer 2D-Feature-Ausgabe.

Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen

Das obige Bild ist das in diesem Artikel vorgeschlagene VMamba-Strukturdiagramm. Das Gesamtgerüst von VMamba ähnelt dem gängigen visuellen Modell. Der Hauptunterschied liegt in den im Basismodul (VSS-Block) verwendeten Operatoren. Der VSS-Block verwendet die oben eingeführte 2D-selektive Scan-Operation, nämlich SS2D. SS2D stellt sicher, dass VMamba ein „globales Empfangsfeld“ auf Kosten einer „linearen Komplexität“ erreicht. Experimentelle Ergebnisse

Die Leistung übertrifft RegNetY-4G um 2,2 %, DeiT-S um 2,4 % und Swin-T um 0,9 %.

VMamba-S erreichte eine Leistung von 83,5 % und übertraf damit RegNetY-8G um 1,8 % und Swin-S um 0,5 %.

VMamba-B erreichte eine Leistung von Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen83,2 %

(es gibt Fehler, die korrekten Ergebnisse werden so schnell wie möglich auf der Github-Seite aktualisiert), was 0,3 % höher ist als RegNetY.

    Diese Ergebnisse sind viel höher als die des Vision Mamba (Vim)-Modells und bestätigen das Potenzial von VMamba vollständig. COCO-Zielerkennung 48,2 %/48,5 % mAP, übertraf Swin-T/S/B um 3,8 %/3,6 %/1,6 % mAP und übertraf ConvNeXt-T/S/B um 2,3 %/2,8 %/1,5 % mAP. Diese Ergebnisse bestätigen, dass VMamba in visuellen Downstream-Experimenten vollständig funktioniert und demonstriert sein Potenzial, gängige grundlegende visuelle Modelle zu ersetzen.
  • ADE20K Semantische Segmentierung
  • Auf ADE20K zeigte VMamba auch eine hervorragende Leistung. Das VMamba-T-Modell erreicht 47,3 % mIoU bei einer Auflösung von 512 × 512, ein Wert, der alle Konkurrenten übertrifft, einschließlich ResNet, DeiT, Swin und ConvNeXt. Dieser Vorteil kann auch unter dem VMamba-S/B-Modell beibehalten werden. Analyseexperiment

Effektives Empfangsfeld

VMamba verfügt über ein globales effektives Empfangsfeld, und unter anderen Modellen verfügt nur DeiT über diese Funktion. Es ist jedoch erwähnenswert, dass die Kosten von DeiT quadratischer Komplexität entsprechen, während VMamaba linearer Komplexität entspricht. Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen

Skalierung der Eingabeskala

Der Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufenDie obige Abbildung (a) zeigt, dass VMamba bei unterschiedlichen Eingabebildgrößen die stabilste Leistung (ohne Feinabstimmung) aufweist. Interessanterweise zeigt nur VMamba bei einer Erhöhung der Eingabegröße von 224 × 224 auf 384 × 384 eine signifikante Leistungssteigerung (VMamba-S von 83,5 % auf 84,0 %), was seine Robustheit gegenüber Änderungen im Geschlecht der Eingabebildgröße unterstreicht.

Die obige Abbildung (b) zeigt, dass die Komplexität der Modelle der VMamba-Serie linear zunimmt, wenn die Eingabe größer wird, was mit dem CNN-Modell übereinstimmt.

Abschließend freuen wir uns darauf, dass neben CNNs und ViTs weitere Mamba-basierte Vision-Modelle vorgeschlagen werden, um eine dritte Option für grundlegende Vision-Modelle bereitzustellen.

Das obige ist der detaillierte Inhalt vonDer Swin-Moment des visuellen Mamba-Modells, die Chinesische Akademie der Wissenschaften, Huawei und andere haben VMamba ins Leben gerufen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

AI Hentai Generator

AI Hentai Generator

Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

R.E.P.O. Energiekristalle erklärten und was sie tun (gelber Kristall)
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Beste grafische Einstellungen
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. So reparieren Sie Audio, wenn Sie niemanden hören können
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Wie man alles in Myrise freischaltet
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Open Source! Jenseits von ZoeDepth! DepthFM: Schnelle und genaue monokulare Tiefenschätzung! Open Source! Jenseits von ZoeDepth! DepthFM: Schnelle und genaue monokulare Tiefenschätzung! Apr 03, 2024 pm 12:04 PM

0.Was bewirkt dieser Artikel? Wir schlagen DepthFM vor: ein vielseitiges und schnelles generatives monokulares Tiefenschätzungsmodell auf dem neuesten Stand der Technik. Zusätzlich zu herkömmlichen Tiefenschätzungsaufgaben demonstriert DepthFM auch hochmoderne Fähigkeiten bei nachgelagerten Aufgaben wie dem Tiefen-Inpainting. DepthFM ist effizient und kann Tiefenkarten innerhalb weniger Inferenzschritte synthetisieren. Lassen Sie uns diese Arbeit gemeinsam lesen ~ 1. Titel der Papierinformationen: DepthFM: FastMonocularDepthEstimationwithFlowMatching Autor: MingGui, JohannesS.Fischer, UlrichPrestel, PingchuanMa, Dmytr

Das weltweit leistungsstärkste Open-Source-MoE-Modell ist da, mit chinesischen Fähigkeiten, die mit GPT-4 vergleichbar sind, und der Preis beträgt nur fast ein Prozent von GPT-4-Turbo Das weltweit leistungsstärkste Open-Source-MoE-Modell ist da, mit chinesischen Fähigkeiten, die mit GPT-4 vergleichbar sind, und der Preis beträgt nur fast ein Prozent von GPT-4-Turbo May 07, 2024 pm 04:13 PM

Stellen Sie sich ein Modell der künstlichen Intelligenz vor, das nicht nur die Fähigkeit besitzt, die traditionelle Datenverarbeitung zu übertreffen, sondern auch eine effizientere Leistung zu geringeren Kosten erzielt. Dies ist keine Science-Fiction, DeepSeek-V2[1], das weltweit leistungsstärkste Open-Source-MoE-Modell, ist da. DeepSeek-V2 ist ein leistungsstarkes MoE-Sprachmodell (Mix of Experts) mit den Merkmalen eines wirtschaftlichen Trainings und einer effizienten Inferenz. Es besteht aus 236B Parametern, von denen 21B zur Aktivierung jedes Markers verwendet werden. Im Vergleich zu DeepSeek67B bietet DeepSeek-V2 eine stärkere Leistung, spart gleichzeitig 42,5 % der Trainingskosten, reduziert den KV-Cache um 93,3 % und erhöht den maximalen Generierungsdurchsatz auf das 5,76-fache. DeepSeek ist ein Unternehmen, das sich mit allgemeiner künstlicher Intelligenz beschäftigt

Hallo, elektrischer Atlas! Der Boston Dynamics-Roboter erwacht wieder zum Leben, seltsame 180-Grad-Bewegungen machen Musk Angst Hallo, elektrischer Atlas! Der Boston Dynamics-Roboter erwacht wieder zum Leben, seltsame 180-Grad-Bewegungen machen Musk Angst Apr 18, 2024 pm 07:58 PM

Boston Dynamics Atlas tritt offiziell in die Ära der Elektroroboter ein! Gestern hat sich der hydraulische Atlas einfach „unter Tränen“ von der Bühne der Geschichte zurückgezogen. Heute gab Boston Dynamics bekannt, dass der elektrische Atlas im Einsatz ist. Es scheint, dass Boston Dynamics im Bereich kommerzieller humanoider Roboter entschlossen ist, mit Tesla zu konkurrieren. Nach der Veröffentlichung des neuen Videos wurde es innerhalb von nur zehn Stunden bereits von mehr als einer Million Menschen angesehen. Die alten Leute gehen und neue Rollen entstehen. Das ist eine historische Notwendigkeit. Es besteht kein Zweifel, dass dieses Jahr das explosive Jahr der humanoiden Roboter ist. Netizens kommentierten: Die Weiterentwicklung der Roboter hat dazu geführt, dass die diesjährige Eröffnungsfeier wie Menschen aussieht, und der Freiheitsgrad ist weitaus größer als der von Menschen. Aber ist das wirklich kein Horrorfilm? Zu Beginn des Videos liegt Atlas ruhig auf dem Boden, scheinbar auf dem Rücken. Was folgt, ist atemberaubend

KAN, das MLP ersetzt, wurde durch Open-Source-Projekte auf Faltung erweitert KAN, das MLP ersetzt, wurde durch Open-Source-Projekte auf Faltung erweitert Jun 01, 2024 pm 10:03 PM

Anfang dieses Monats schlugen Forscher des MIT und anderer Institutionen eine vielversprechende Alternative zu MLP vor – KAN. KAN übertrifft MLP in Bezug auf Genauigkeit und Interpretierbarkeit. Und es kann MLP, das mit einer größeren Anzahl von Parametern ausgeführt wird, mit einer sehr kleinen Anzahl von Parametern übertreffen. Beispielsweise gaben die Autoren an, dass sie KAN nutzten, um die Ergebnisse von DeepMind mit einem kleineren Netzwerk und einem höheren Automatisierungsgrad zu reproduzieren. Konkret verfügt DeepMinds MLP über etwa 300.000 Parameter, während KAN nur etwa 200 Parameter hat. KAN hat eine starke mathematische Grundlage wie MLP und basiert auf dem universellen Approximationssatz, während KAN auf dem Kolmogorov-Arnold-Darstellungssatz basiert. Wie in der folgenden Abbildung gezeigt, hat KAN

KI untergräbt die mathematische Forschung! Der Gewinner der Fields-Medaille und der chinesisch-amerikanische Mathematiker führten 11 hochrangige Arbeiten an | Gefällt mir bei Terence Tao KI untergräbt die mathematische Forschung! Der Gewinner der Fields-Medaille und der chinesisch-amerikanische Mathematiker führten 11 hochrangige Arbeiten an | Gefällt mir bei Terence Tao Apr 09, 2024 am 11:52 AM

KI verändert tatsächlich die Mathematik. Vor kurzem hat Tao Zhexuan, der diesem Thema große Aufmerksamkeit gewidmet hat, die neueste Ausgabe des „Bulletin of the American Mathematical Society“ (Bulletin der American Mathematical Society) weitergeleitet. Zum Thema „Werden Maschinen die Mathematik verändern?“ äußerten viele Mathematiker ihre Meinung. Der gesamte Prozess war voller Funken, knallhart und aufregend. Der Autor verfügt über eine starke Besetzung, darunter der Fields-Medaillengewinner Akshay Venkatesh, der chinesische Mathematiker Zheng Lejun, der NYU-Informatiker Ernest Davis und viele andere bekannte Wissenschaftler der Branche. Die Welt der KI hat sich dramatisch verändert. Viele dieser Artikel wurden vor einem Jahr eingereicht.

Langsame Internetgeschwindigkeiten für Mobilfunkdaten auf dem iPhone: Korrekturen Langsame Internetgeschwindigkeiten für Mobilfunkdaten auf dem iPhone: Korrekturen May 03, 2024 pm 09:01 PM

Stehen Sie vor einer Verzögerung oder einer langsamen mobilen Datenverbindung auf dem iPhone? Normalerweise hängt die Stärke des Mobilfunk-Internets auf Ihrem Telefon von mehreren Faktoren ab, wie z. B. der Region, dem Mobilfunknetztyp, dem Roaming-Typ usw. Es gibt einige Dinge, die Sie tun können, um eine schnellere und zuverlässigere Mobilfunk-Internetverbindung zu erhalten. Fix 1 – Neustart des iPhone erzwingen Manchmal werden durch einen erzwungenen Neustart Ihres Geräts viele Dinge zurückgesetzt, einschließlich der Mobilfunkverbindung. Schritt 1 – Drücken Sie einfach einmal die Lauter-Taste und lassen Sie sie los. Drücken Sie anschließend die Leiser-Taste und lassen Sie sie wieder los. Schritt 2 – Der nächste Teil des Prozesses besteht darin, die Taste auf der rechten Seite gedrückt zu halten. Lassen Sie das iPhone den Neustart abschließen. Aktivieren Sie Mobilfunkdaten und überprüfen Sie die Netzwerkgeschwindigkeit. Überprüfen Sie es erneut. Fix 2 – Datenmodus ändern 5G bietet zwar bessere Netzwerkgeschwindigkeiten, funktioniert jedoch besser, wenn das Signal schwächer ist

Die Vitalität der Superintelligenz erwacht! Aber mit der Einführung der sich selbst aktualisierenden KI müssen sich Mütter keine Sorgen mehr über Datenengpässe machen Die Vitalität der Superintelligenz erwacht! Aber mit der Einführung der sich selbst aktualisierenden KI müssen sich Mütter keine Sorgen mehr über Datenengpässe machen Apr 29, 2024 pm 06:55 PM

Ich weine zu Tode. Die Daten im Internet reichen überhaupt nicht aus. Das Trainingsmodell sieht aus wie „Die Tribute von Panem“, und KI-Forscher auf der ganzen Welt machen sich Gedanken darüber, wie sie diese datenhungrigen Esser ernähren sollen. Dieses Problem tritt insbesondere bei multimodalen Aufgaben auf. Zu einer Zeit, als sie ratlos waren, nutzte ein Start-up-Team der Abteilung der Renmin-Universität von China sein eigenes neues Modell, um als erstes in China einen „modellgenerierten Datenfeed selbst“ in die Realität umzusetzen. Darüber hinaus handelt es sich um einen zweigleisigen Ansatz auf der Verständnisseite und der Generierungsseite. Beide Seiten können hochwertige, multimodale neue Daten generieren und Datenrückmeldungen an das Modell selbst liefern. Was ist ein Modell? Awaker 1.0, ein großes multimodales Modell, das gerade im Zhongguancun-Forum erschienen ist. Wer ist das Team? Sophon-Motor. Gegründet von Gao Yizhao, einem Doktoranden an der Hillhouse School of Artificial Intelligence der Renmin University.

Die U.S. Air Force präsentiert ihren ersten KI-Kampfjet mit großem Aufsehen! Der Minister führte die Testfahrt persönlich durch, ohne in den gesamten Prozess einzugreifen, und 100.000 Codezeilen wurden 21 Mal getestet. Die U.S. Air Force präsentiert ihren ersten KI-Kampfjet mit großem Aufsehen! Der Minister führte die Testfahrt persönlich durch, ohne in den gesamten Prozess einzugreifen, und 100.000 Codezeilen wurden 21 Mal getestet. May 07, 2024 pm 05:00 PM

Kürzlich wurde die Militärwelt von der Nachricht überwältigt: US-Militärkampfflugzeuge können jetzt mithilfe von KI vollautomatische Luftkämpfe absolvieren. Ja, erst kürzlich wurde der KI-Kampfjet des US-Militärs zum ersten Mal der Öffentlichkeit zugänglich gemacht und sein Geheimnis gelüftet. Der vollständige Name dieses Jägers lautet „Variable Stability Simulator Test Aircraft“ (VISTA). Er wurde vom Minister der US-Luftwaffe persönlich geflogen, um einen Eins-gegen-eins-Luftkampf zu simulieren. Am 2. Mai startete US-Luftwaffenminister Frank Kendall mit einer X-62AVISTA auf der Edwards Air Force Base. Beachten Sie, dass während des einstündigen Fluges alle Flugaktionen autonom von der KI durchgeführt wurden! Kendall sagte: „In den letzten Jahrzehnten haben wir über das unbegrenzte Potenzial des autonomen Luft-Luft-Kampfes nachgedacht, aber es schien immer unerreichbar.“ Nun jedoch,

See all articles