


Einführung eines neuen GIF-Frameworks: Nach dem Vorbild des Menschen ist ein neues Paradigma für die Datensatzverstärkung entstanden
- Papierlink: https://browse.arxiv.org/pdf/2211.13976.pdf
- GitHub: https://github.com/Vanint/DatasetExpansion
Als Wir alle wissen, dass die Leistung tiefer neuronaler Netze weitgehend von der Menge und Qualität der Trainingsdaten abhängt, was es schwierig macht, Deep Learning umfassend auf kleine Datenmengen anzuwenden. Beispielsweise ist in kleinen Datenanwendungsszenarien in der Medizin und anderen Bereichen das manuelle Sammeln und Kennzeichnen großer Datensätze oft zeitaufwändig und mühsam. Um dieses Problem der Datenknappheit anzugehen und die Datenerfassungskosten zu minimieren, untersucht dieser Artikel ein neues Paradigma der Datensatzerweiterung, das darauf abzielt, automatisch neue Daten zu generieren, um den kleinen Datensatz der Zielaufgabe zu einem größeren und informativeren Big Data zu erweitern Sätze. Diese erweiterten Datensätze dienen der Verbesserung der Leistung und der Generalisierungsfähigkeiten des Modells und können zum Trainieren verschiedener Netzwerkstrukturen verwendet werden. Diese Arbeit ergab, dass die alleinige Verwendung vorhandener Methoden den Datensatz nicht gut erweitern kann. (1) Die zufällige Datenverbesserung ändert hauptsächlich die visuellen Oberflächeneigenschaften des Bildes, kann jedoch keine Bilder mit neuem Objektinhalt erstellen (der Lotus im Bild unten ist immer noch derselbe, es wird kein neuer Lotus generiert), daher ist die Menge der eingeführten Informationen gleich begrenzt. Was noch schwerwiegender ist, ist, dass die zufällige Datenverbesserung die Läsionsposition (Änderung) des medizinischen Bildes beschneiden kann, was zu einer Reduzierung wichtiger Informationen der Probe und sogar zur Erzeugung verrauschter Daten führt. (2) Die direkte Verwendung vorab trainierter generativer (Diffusions-)Modelle zur Datensatzverstärkung kann die Leistung des Modells bei der Zielaufgabe nicht wirklich verbessern. Dies liegt daran, dass die Vortrainingsdaten dieser generativen Modelle häufig große Verteilungsunterschiede zu den Zieldaten aufweisen, was zu einer gewissen Verteilungs- und Kategorielücke zwischen den von ihnen generierten Daten und der Zielaufgabe führt und es unmöglich ist, sicherzustellen, dass die generierten Daten vorhanden sind Beispiele haben die richtige Kategorie und sind für das Modelltraining nützlich.
Um die Erweiterung von Datensätzen effizienter durchzuführen, haben Forscher das assoziative Lernen des Menschen untersucht. Wenn Menschen Vorkenntnisse über ein Objekt haben, können sie sich leicht verschiedene Variationen des Objekts vorstellen, wie zum Beispiel Variationen des Hundes in verschiedenen Typen, Farben, Formen oder Hintergründen im Bild unten. Dieser Prozess des fantasievollen Lernens ist für die Erweiterung von Datensätzen sehr aufschlussreich, da er über die bloße Störung des Erscheinungsbilds der Tiere im Bild hinausgeht, sondern umfangreiches Vorwissen anwendet, um Variantenbilder mit neuen Informationen zu erstellen. Das können wir jedoch nicht Modellieren Sie den Menschen direkt als Vormodell für die Datenvorstellung. Glücklicherweise haben neuere generative Modelle (wie Stable Diffusion, DALL-E2) eine leistungsstarke Fähigkeit bewiesen, sich an die Verteilung großer Datensätze anzupassen und reichhaltige und realistische Bilder zu erzeugen. Dies inspirierte diesen Artikel dazu, vorab trainierte generative Modelle als Vormodelle zu verwenden und deren fundiertes Vorwissen zu nutzen, um eine effiziente Datenassoziation und -verstärkung bei kleinen Datensätzen durchzuführen.
Basierend auf den oben genannten Ideen schlägt diese Arbeit ein neues Guided Imagination Framework (GIF) vor. Diese Methode kann die Klassifizierungsleistung und die Generalisierungsfähigkeit tiefer neuronaler Netze bei natürlichen und medizinischen Bildaufgaben effektiv verbessern und die enormen Kosten, die durch manuelle Datenerfassung und -annotation verursacht werden, erheblich reduzieren. Gleichzeitig trägt der erweiterte Datensatz auch dazu bei, das Transferlernen des Modells zu fördern und das Long-Tail-Problem zu lindern.
Als nächstes werfen wir einen Blick darauf, wie dieses neue Paradigma der Datensatzverstärkung gestaltet ist.
Methoden: Herausforderungen und Leitstandards für die Datensatzverstärkung (2) Wie kann sichergestellt werden, dass die generierten Proben neue Informationen enthalten, um das Modelltraining zu fördern? Um diese beiden Herausforderungen anzugehen, wurden in dieser Arbeit durch umfangreiche Experimente zwei Amplifikationsleitkriterien ermittelt: (1) kategoriekonsistente Informationsverbesserung; (2) Verbesserung der Probenvielfalt.
Method Framework
Basierend auf den entdeckten Verstärkungsleitstandards schlägt diese Arbeit das Guided Imagination Augmentation Framework (GIF) vor. Für jedes Eingabe-Seed-Beispiel x extrahiert GIF zunächst das Beispielmerkmal f mithilfe des Merkmalsextraktors des vorherigen generativen Modells und führt eine Rauschstörung für das Merkmal durch:
. Der einfachste Weg, das Rauschen (z, b) festzulegen, besteht darin, Gaußsches Zufallsrauschen zu verwenden, aber es kann nicht sicherstellen, dass die generierten Stichproben die richtige Klassenbezeichnung haben und mehr Informationen liefern. Daher optimiert GIF für eine effiziente Datensatzverstärkung die Rauschstörung basierend auf seiner entdeckten Verstärkungsrichtlinie, d. h. .
. Durch die Maximierung dieser beiden Indikatoren kann GIF die Rauschstörung effektiv optimieren und so Stichproben erzeugen, die die Kategoriekonsistenz wahren und einen größeren Informationsgehalt bieten. Experimente
Amplifikationsvalidität
GIF hat eine stärkere Amplifikationsvalidität: GIF-SD verbessert die Klassifizierungsgenauigkeit um durchschnittlich 36,9 % bei 6 natürlichen Datensätzen und bei 3 medizinischen Datensätzen. Die durchschnittliche Klassifizierungsgenauigkeit des Datensatzes wird um 13,5 % verbessert.
Verstärkungseffizienz
GIF hat eine stärkere Verstärkungseffizienz: Bei Autos und DTD-Datensätzen übersteigt der Effekt der Verwendung von GIF-SD für die 5-fache Verstärkung sogar den der Verwendung einer zufälligen Datenerweiterung. Der Effekt von 20 -fache Verstärkung.
Visualisierungsergebnisse
Bestehende Methoden zur Datenerweiterung können keine neuen Bildinhalte generieren, während GIF besser Beispiele mit neuen Inhalten generieren kann.
Bestehende Verbesserungsmethoden können die Position von Läsionen in medizinischen Bildern reduzieren, was zu weniger Probeninformationen und der Erzeugung von Rauschen führt, während GIFs ihre Kategoriesemantik besser beibehalten können
Rechen- und Zeitaufwand
Im Vergleich zur manuellen Datenerfassung und -annotation kann GIF den Zeit- und Kostenaufwand für die Datensatzverstärkung erheblich reduzieren.
Vielseitigkeit verstärkter DatenSobald diese Datensätze verstärkt sind, können sie direkt zum Trainieren verschiedener neuronaler Netzwerkmodellstrukturen verwendet werden.
Verbesserung der Fähigkeit zur Modellgeneralisierung GIF trägt dazu bei, die Leistung des Modells bei der Generalisierung außerhalb der Verteilung (OOD-Generalisierung) zu verbessern.
Lernen Sie das Long-Tail-Problem GIF hilft, das Long-Tail-Problem zu lindern.
Sicherheitscheck GIF-generierte Bilder sind sicher und harmlos.
Basierend auf den oben genannten experimentellen Ergebnissen haben wir Grund zu der Annahme, dass die in diesem Artikel entwickelte Methode durch die Simulation menschlicher Analogien und des Imaginationslernens kleine Datensätze effektiv erweitern und dadurch die Leistung tiefer neuronaler Netze verbessern kann Implementierung und Anwendung von Small-Data-Aufgabenszenarien.
Das obige ist der detaillierte Inhalt vonEinführung eines neuen GIF-Frameworks: Nach dem Vorbild des Menschen ist ein neues Paradigma für die Datensatzverstärkung entstanden. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heiße KI -Werkzeuge

Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool
Ausziehbilder kostenlos

Clothoff.io
KI-Kleiderentferner

AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

Heiße Werkzeuge

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen



0.Was bewirkt dieser Artikel? Wir schlagen DepthFM vor: ein vielseitiges und schnelles generatives monokulares Tiefenschätzungsmodell auf dem neuesten Stand der Technik. Zusätzlich zu herkömmlichen Tiefenschätzungsaufgaben demonstriert DepthFM auch hochmoderne Fähigkeiten bei nachgelagerten Aufgaben wie dem Tiefen-Inpainting. DepthFM ist effizient und kann Tiefenkarten innerhalb weniger Inferenzschritte synthetisieren. Lassen Sie uns diese Arbeit gemeinsam lesen ~ 1. Titel der Papierinformationen: DepthFM: FastMonocularDepthEstimationwithFlowMatching Autor: MingGui, JohannesS.Fischer, UlrichPrestel, PingchuanMa, Dmytr

Stellen Sie sich ein Modell der künstlichen Intelligenz vor, das nicht nur die Fähigkeit besitzt, die traditionelle Datenverarbeitung zu übertreffen, sondern auch eine effizientere Leistung zu geringeren Kosten erzielt. Dies ist keine Science-Fiction, DeepSeek-V2[1], das weltweit leistungsstärkste Open-Source-MoE-Modell, ist da. DeepSeek-V2 ist ein leistungsstarkes MoE-Sprachmodell (Mix of Experts) mit den Merkmalen eines wirtschaftlichen Trainings und einer effizienten Inferenz. Es besteht aus 236B Parametern, von denen 21B zur Aktivierung jedes Markers verwendet werden. Im Vergleich zu DeepSeek67B bietet DeepSeek-V2 eine stärkere Leistung, spart gleichzeitig 42,5 % der Trainingskosten, reduziert den KV-Cache um 93,3 % und erhöht den maximalen Generierungsdurchsatz auf das 5,76-fache. DeepSeek ist ein Unternehmen, das sich mit allgemeiner künstlicher Intelligenz beschäftigt

Anfang dieses Monats schlugen Forscher des MIT und anderer Institutionen eine vielversprechende Alternative zu MLP vor – KAN. KAN übertrifft MLP in Bezug auf Genauigkeit und Interpretierbarkeit. Und es kann MLP, das mit einer größeren Anzahl von Parametern ausgeführt wird, mit einer sehr kleinen Anzahl von Parametern übertreffen. Beispielsweise gaben die Autoren an, dass sie KAN nutzten, um die Ergebnisse von DeepMind mit einem kleineren Netzwerk und einem höheren Automatisierungsgrad zu reproduzieren. Konkret verfügt DeepMinds MLP über etwa 300.000 Parameter, während KAN nur etwa 200 Parameter hat. KAN hat eine starke mathematische Grundlage wie MLP und basiert auf dem universellen Approximationssatz, während KAN auf dem Kolmogorov-Arnold-Darstellungssatz basiert. Wie in der folgenden Abbildung gezeigt, hat KAN

Boston Dynamics Atlas tritt offiziell in die Ära der Elektroroboter ein! Gestern hat sich der hydraulische Atlas einfach „unter Tränen“ von der Bühne der Geschichte zurückgezogen. Heute gab Boston Dynamics bekannt, dass der elektrische Atlas im Einsatz ist. Es scheint, dass Boston Dynamics im Bereich kommerzieller humanoider Roboter entschlossen ist, mit Tesla zu konkurrieren. Nach der Veröffentlichung des neuen Videos wurde es innerhalb von nur zehn Stunden bereits von mehr als einer Million Menschen angesehen. Die alten Leute gehen und neue Rollen entstehen. Das ist eine historische Notwendigkeit. Es besteht kein Zweifel, dass dieses Jahr das explosive Jahr der humanoiden Roboter ist. Netizens kommentierten: Die Weiterentwicklung der Roboter hat dazu geführt, dass die diesjährige Eröffnungsfeier wie Menschen aussieht, und der Freiheitsgrad ist weitaus größer als der von Menschen. Aber ist das wirklich kein Horrorfilm? Zu Beginn des Videos liegt Atlas ruhig auf dem Boden, scheinbar auf dem Rücken. Was folgt, ist atemberaubend

KI verändert tatsächlich die Mathematik. Vor kurzem hat Tao Zhexuan, der diesem Thema große Aufmerksamkeit gewidmet hat, die neueste Ausgabe des „Bulletin of the American Mathematical Society“ (Bulletin der American Mathematical Society) weitergeleitet. Zum Thema „Werden Maschinen die Mathematik verändern?“ äußerten viele Mathematiker ihre Meinung. Der gesamte Prozess war voller Funken, knallhart und aufregend. Der Autor verfügt über eine starke Besetzung, darunter der Fields-Medaillengewinner Akshay Venkatesh, der chinesische Mathematiker Zheng Lejun, der NYU-Informatiker Ernest Davis und viele andere bekannte Wissenschaftler der Branche. Die Welt der KI hat sich dramatisch verändert. Viele dieser Artikel wurden vor einem Jahr eingereicht.

Ich weine zu Tode. Die Daten im Internet reichen überhaupt nicht aus. Das Trainingsmodell sieht aus wie „Die Tribute von Panem“, und KI-Forscher auf der ganzen Welt machen sich Gedanken darüber, wie sie diese datenhungrigen Esser ernähren sollen. Dieses Problem tritt insbesondere bei multimodalen Aufgaben auf. Zu einer Zeit, als sie ratlos waren, nutzte ein Start-up-Team der Abteilung der Renmin-Universität von China sein eigenes neues Modell, um als erstes in China einen „modellgenerierten Datenfeed selbst“ in die Realität umzusetzen. Darüber hinaus handelt es sich um einen zweigleisigen Ansatz auf der Verständnisseite und der Generierungsseite. Beide Seiten können hochwertige, multimodale neue Daten generieren und Datenrückmeldungen an das Modell selbst liefern. Was ist ein Modell? Awaker 1.0, ein großes multimodales Modell, das gerade im Zhongguancun-Forum erschienen ist. Wer ist das Team? Sophon-Motor. Gegründet von Gao Yizhao, einem Doktoranden an der Hillhouse School of Artificial Intelligence der Renmin University.

Was? Wird Zootopia durch heimische KI in die Realität umgesetzt? Zusammen mit dem Video wird ein neues groß angelegtes inländisches Videogenerationsmodell namens „Keling“ vorgestellt. Sora geht einen ähnlichen technischen Weg und kombiniert eine Reihe selbst entwickelter technologischer Innovationen, um Videos zu produzieren, die nicht nur große und vernünftige Bewegungen aufweisen, sondern auch die Eigenschaften der physischen Welt simulieren und über starke konzeptionelle Kombinationsfähigkeiten und Vorstellungskraft verfügen. Den Daten zufolge unterstützt Keling die Erstellung ultralanger Videos von bis zu 2 Minuten mit 30 Bildern pro Sekunde, mit Auflösungen von bis zu 1080p und unterstützt mehrere Seitenverhältnisse. Ein weiterer wichtiger Punkt ist, dass es sich bei Keling nicht um eine vom Labor veröffentlichte Demo oder Video-Ergebnisdemonstration handelt, sondern um eine Anwendung auf Produktebene, die von Kuaishou, einem führenden Anbieter im Bereich Kurzvideos, gestartet wurde. Darüber hinaus liegt das Hauptaugenmerk darauf, pragmatisch zu sein, keine Blankoschecks auszustellen und sofort nach der Veröffentlichung online zu gehen. Das große Modell von Ke Ling wurde bereits in Kuaiying veröffentlicht.

Kürzlich wurde die Militärwelt von der Nachricht überwältigt: US-Militärkampfflugzeuge können jetzt mithilfe von KI vollautomatische Luftkämpfe absolvieren. Ja, erst kürzlich wurde der KI-Kampfjet des US-Militärs zum ersten Mal der Öffentlichkeit zugänglich gemacht und sein Geheimnis gelüftet. Der vollständige Name dieses Jägers lautet „Variable Stability Simulator Test Aircraft“ (VISTA). Er wurde vom Minister der US-Luftwaffe persönlich geflogen, um einen Eins-gegen-eins-Luftkampf zu simulieren. Am 2. Mai startete US-Luftwaffenminister Frank Kendall mit einer X-62AVISTA auf der Edwards Air Force Base. Beachten Sie, dass während des einstündigen Fluges alle Flugaktionen autonom von der KI durchgeführt wurden! Kendall sagte: „In den letzten Jahrzehnten haben wir über das unbegrenzte Potenzial des autonomen Luft-Luft-Kampfes nachgedacht, aber es schien immer unerreichbar.“ Nun jedoch,
