Poisson-Matrix-Zerlegung: Ein Matrix-Zerlegungsalgorithmus, der das Kaltstartproblem von Empfehlungssystemen ohne Daten löst

Autor |. Wang Hao

Rezensent |.🎜🎜#

Das Empfehlungssystem ist eine der beliebtesten Technologien in der Internetbranche. Im letzten Jahrzehnt hat die Internetbranche Millionen iterativer Versionen von Empfehlungssystemmodellen produziert. Obwohl es viele Empfehlungssystemmodelle gibt, die für verschiedene Szenarien optimiert sind, gibt es nur sehr wenige klassische Modelle. Die Matrixzerlegung ist ein Empfehlungssystemalgorithmus, der in den Anfängen der Empfehlungssysteme entstand und seine Bedeutung im Netflix-Wettbewerb unter Beweis stellte. Er ist auch der erfolgreichste Empfehlungssystemalgorithmus der letzten zehn Jahre. Auch wenn das Gebiet der Empfehlungssysteme bis heute, im Jahr 2023, schon lange von Deep Learning dominiert wird, wird die Matrixzerlegung in den Forschungs- und Entwicklungsprozessen großer Unternehmen immer noch häufig eingesetzt, und es gibt immer noch viele wissenschaftliche Forscher, die an verwandten Algorithmen arbeiten.

Das klassischste Papier zum Matrixfaktorisierungsalgorithmus ist die Probabilistic Matrix Factorization aus dem Jahr 2007. Auf dieser Grundlage haben spätere Generationen viele Erweiterungsarbeiten durchgeführt, wie z. B. RankMat im Jahr 2021 (Download-Adresse des Papiers: https://arxiv.org/abs/2204.13016), ZeroMat (Download-Adresse des Papiers: https://arxiv. org /abs/2112.03084) und DotMat im Jahr 2022 (Papier-Download-Adresse: https://arxiv.org/abs/2206.00151), KL-Mat (Papier-Download-Adresse: https://arxiv.org/abs/2204.13583/ Code-Download Adresse: https://github.com/haow85/KL-Mat) usw. Empfehlungssysteme erfreuen sich bei Ingenieuren in der Internetbranche aufgrund ihrer Einfachheit, Benutzerfreundlichkeit und hohen Geschwindigkeit großer Beliebtheit.

Das Kaltstartproblem von Empfehlungssystemen ist ein weiterer Forschungsschwerpunkt, der dieses Jahr viel Aufmerksamkeit erregt hat. Die Ideen vieler Praktiker zur Lösung von Empfehlungssystemen sind Transferlernen und Meta-Lernen. Allerdings hat diese Idee einen fatalen Fehler: Sie erfordert Daten aus anderen Wissensgebieten. Viele Unternehmen erfüllen diese Bedingung nicht. Der Kaltstartalgorithmus, der eigentlich keine Daten benötigt, erschien, nachdem ZeroMat im Jahr 2021 vorgeschlagen wurde. Zu den repräsentativen Algorithmen gehören ZeroMat und DotMat, die im vorherigen Abschnitt erwähnt wurden. Der in diesem Artikel vorgestellte Poisson-Matrix-Zerlegungsalgorithmus (PoissonMat) ist ein Artikel, der auf der International Academic Conference 2022 MLISE 2022 veröffentlicht wurde. Der Name des Papiers lautet PoissonMat: Remodeling Matrix Factorization using Poisson Distribution and Solving the Cold Start Problem without Input Data (Download-Adresse des Papiers: https://arxiv.org/abs/2212.10460).

Sehen wir uns zunächst die MAP-Definition der probabilistischen Matrixfaktorisierung an:

Wir definieren dann Das Verhalten der Benutzer, die Artikel bewerten, ist Poisson-verteilt. Gemäß der Definition der Poisson-Verteilung erhalten wir die folgende Formel:

Gemäß der Definition der Parameter in der Poisson-Formel, wir Es gibt:

Gemäß der Zipf-Verteilung können wir die folgende Formel erhalten: #🎜 🎜#

# 🎜🎜#

Basierend auf der obigen Formel erhalten wir die analytische Form der Poisson-Matrixzerlegung (PoissonMat):

# 🎜🎜##🎜 🎜#

Mit dem stochastischen Gradientenabstiegsalgorithmus zur Lösung der obigen Formel erhalten wir den folgenden Algorithmusablauf:

# 🎜🎜#

# 🎜🎜#

Der Autor führte dann einen experimentellen Vergleich der Algorithmusgenauigkeit und Fairness am MovieLens 1 Million-Datensatz und am LDOS-CoMoDa-Datensatz durch:

#🎜 🎜#

Abbildung 1 Vergleichsexperiment der Poisson-Matrixzerlegung auf MovieLens 1 Million Datensatz

# 🎜🎜#

Abbildung 2 Vergleichsexperiment zur Poisson-Matrixzerlegung im LDOS-CoMoDa-Datensatz

Basierend auf experimentellem Vergleichseffekt können wir folgende Schlussfolgerung ziehen: Die Poisson-Matrix-Faktorisierung (PoissonMat) übertrifft andere Algorithmen in Bezug auf Genauigkeit und Fairness-Indikatoren. Lobenswert ist, dass der Poisson-Matrix-Zerlegungsalgorithmus keine Eingabedaten verwendet. Es handelt sich um einen vollständigen Lernalgorithmus ohne Stichprobe, der das Kaltstartproblem sehr gut löst.

Schließlich führte der Autor das Experiment auf einem Lenovo-Heimnotebook mit 16G RAM und Intel Core i5 durch. Der Algorithmus läuft sehr schnell und die Implementierung ist sehr einfach.

Der Zero-Shot-Lernalgorithmus, der das Kaltstartproblem von Empfehlungssystemen lösen soll, ist derzeit ein Forschungs-Hotspot. Ein echter Zero-Shot-Lernalgorithmus, der keine Daten benötigt, um Zero-Shot-Lernprobleme zu lösen, beginnend mit dem ZeroMat-Algorithmus im Jahr 2021. Der in diesem Artikel vorgestellte Poisson-Matrix-Zerlegungsalgorithmus (PoissonMat) weist eine bessere Leistung als ZeroMat und sein nachfolgender Algorithmus DotMat auf und ist derzeit einer der besten Algorithmen auf diesem Gebiet. Da die einschlägige Forschung noch in den Kinderschuhen steckt, hoffen wir, dass sie die Aufmerksamkeit und Aufmerksamkeit der Mehrheit der Praktiker aus Wissenschaft und Technologie auf sich zieht.

Vorstellung des Autors

Wang Hao, ehemaliger Leiter des Funplus Artificial Intelligence Laboratory, ehemaliger Leiter der Big Data-Abteilung von Hengchang Litong. Abschluss an der University of Utah in den Vereinigten Staaten mit einem Bachelor-Abschluss (2008) und einem Master-Abschluss (2010). Teilzeit-MBA der University of International Business and Economics (2016). In Empfehlungssystemen (Fairness/szenariobasierte Empfehlung/Kaltstart/Interpretierbarkeit/Ranking-Lernen), Computergrafik (geometrische Modellierung/Visualisierung), Verarbeitung natürlicher Sprache (Implementierungsanwendungen in der Industrie), Risikokontrolle und Betrugsbekämpfung (Finanzen/Medizin) und andere Richtungen mit langjähriger Erfahrung und einzigartigen Erkenntnissen. Er verfügt über 12 Jahre Technologie-F&E- und Managementerfahrung im Internet (Douban, Baidu, Sina, NetEase usw.), Finanztechnologie (Hengchang Litong) und Spieleunternehmen (Funplus usw.). Veröffentlichte 30 Artikel auf internationalen wissenschaftlichen Konferenzen und Fachzeitschriften und gewann drei internationale Konferenz-Best Paper Awards/Best Paper Report Awards (IEEE SMI 2008 Best Paper Award/ICBDT 2020 Best Oral Presentation Award/ICISCAE 2021 Best Oral Presentation Award). Goldmedaille des ACM/ICPC North American Rocky Mountain Regional Competition 2006. 2004 Bronzemedaille im Speaking-Finale des National College English Proficiency Competition. Im Jahr 2003 gewann er bei der Aufnahmeprüfung für das Jinan College den ersten Platz in Englisch in Naturwissenschaften und Technik.

Das obige ist der detaillierte Inhalt vonPoisson-Matrix-Zerlegung: Ein Matrix-Zerlegungsalgorithmus, der das Kaltstartproblem von Empfehlungssystemen ohne Daten löst. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!