Turing-Award-Gewinner LeCun: ChatGPT unterliegt enormen Einschränkungen und die Lebensdauer des autoregressiven Modells beträgt nicht mehr als 5 Jahre.

Die erste Hälfte dieses Jahres kann als die aufregendste Hälfte der KI-Branche bezeichnet werden.

Hinter der rasanten Entwicklung verschiedener GPTs und sogar der Prototypen von AGI stehen zwei Lager von Menschen mit unterschiedlichen Ansichten.

Eine Gruppe glaubt, dass die generative KI unter der Leitung von ChatGPT sehr mächtig ist und eine Welle revolutionärer Trends auslösen kann, und dass es kein Problem ist, weiter voranzukommen.

Die andere Gruppe findet, dass wir uns etwas zu schnell entwickeln. Es ist nicht nur verboten, es muss auch für eine Weile gestoppt werden. Und moralisch gesehen gibt es zu wenige Matching-Beschränkungen.

Als großer Gewinner im KI-Bereich hat Yann LeCun diesbezüglich eine andere Sicht.

Ganzes Verbot? Nicht machbar

LeCun sagte, er sei von der Leistung von ChatGPT nicht überrascht und sei nicht dafür, die Forschung im Bereich der künstlichen Intelligenz einzustellen.

„Dies könnte zum gegenteiligen Ergebnis führen als erwartet.“ Er sagte, dass künstliche Intelligenz als Verstärker der menschlichen Intelligenz der Ursprung der neuen Renaissance sein könnte.

ChatGPT, ein großes Sprachmodell, ist „autoregressiv“. Die KI ist darauf trainiert, Wörter aus einem Korpus von bis zu 1,4 Billionen Wörtern zu extrahieren und das letzte Wort in einer bestimmten Satzfolge vorherzusagen, also das nächste Wort, das erscheinen muss.

Claude Shannons einschlägige Forschung in den 1950er Jahren basierte auf diesem Prinzip.

Das Prinzip hat sich nicht geändert, es ist eine Frage der Größe des Korpus und der Rechenleistung des Modells selbst geworden.

LeCun sagte: „Derzeit können wir uns nicht auf diese Art von Modell verlassen, um lange und zusammenhängende Texte zu generieren. Diese Systeme sind nicht kontrollierbar. Beispielsweise können wir ChatGPT nicht direkt bitten, einen Text zu generieren, dessen Zielgruppe 13 Jahre alt ist.“ -alte Kinder.

Zweitens ist der von ChatGPT generierte Text als Informationsquelle nicht 100 % zuverlässig. Die Funktion von GPT ist eher wie ein Hilfsmittel, genau wie das bestehende Fahrassistenzsystem, es muss verwendet werden, wenn Die automatische Fahrfunktion ist aktiviert.

Darüber hinaus ist die Lebensdauer der uns bekannten autoregressiven Sprachmodelle sehr kurz. Nach fünf Jahren wird niemand mehr die alten Modelle verwenden

Der Fokus der Forschung sollte darauf liegen, einen Weg zu finden, diese Modelle kontrollierbar zu machen. Mit anderen Worten: Die KI, die wir untersuchen wollen, ist eine KI, die nach vorgegebenen Zielen argumentieren und planen kann Um seine Sicherheit zu gewährleisten, muss man wissen, dass ein großer Teil der menschlichen Emotionen mit der Erreichung von Zielen zusammenhängt.

Mit einem solchen kontrollierbaren Modell können wir lange und zusammenhängende Texte generieren.

LeCuns Idee ist es, in Zukunft verbesserte Modelle zu entwerfen, die Daten aus verschiedenen Tools, wie etwa Taschenrechnern oder Suchmaschinen, mischen können.

Modelle wie ChatGPT werden nur auf Text trainiert, daher ist das Verständnis von ChatGPT für die reale Welt unvollständig. Wenn Sie sich auf dieser Basis weiterentwickeln möchten, müssen Sie einige Inhalte erlernen, die sich auf die Sinneswahrnehmung und den Weltaufbau der gesamten Welt beziehen.

Und diese komplexeren Inhalte können nicht einfach durch das Lesen von Texten erreicht werden, was eine der größten Herausforderungen in den nächsten Jahren darstellt.

Open Source ist das Ende

Der Wunsch nach Macht ist einzigartig für den Menschen. Und die KI wird diesen Wunsch nicht haben, nur weil sie immer leistungsfähiger wird.

Nur die menschliche Spezies weiß, wie man Gesetze formuliert, um sicherzustellen, dass individuelle Handlungen den gemeinsamen Interessen nicht zu sehr schaden.

OpenAI war ursprünglich ein offenes Forschungsprojekt und ist nun geschlossen. OpenAI erwähnte seine Arbeit nicht, eine Umkehrung, die im Forschungsbereich nicht üblich ist.

Das Problem ist, dass das Training eines Sprachmodells teuer ist und mehrere zehn Millionen Euro kostet, sodass Startups es sich nicht leisten können.

Dies ist auch der Hauptgrund für die Fusion von Microsoft und OpenAI, die die gemeinsame Rechenleistung des Konzerns zur Verbesserung seiner zukünftigen Modelle erfordert. Deshalb haben sich DeepMind und Google Brain schließlich zusammengeschlossen.

LeCun sagte, dass sich die Entwickler im Hinblick auf den Markt letztendlich auf ein gemeinsames Ökosystem offener Plattformen zubewegen werden. Es wäre schlecht, wenn nur wenige Unternehmen diese Technologie beherrschen würden.

Historisch gesehen haben sowohl Facebook als auch das umbenannte Meta aktiv offene Grundlagenforschung gefördert, wie beispielsweise das Open-Source-Projekt LlaMa.

In den frühen 1990er Jahren kämpften Sun Microsystems und Microsoft um die Macht, Server zu betreiben. Bedenken Sie, dass alle noch etablierten Internet-Technologien Open Source sind.

LeCun sagte schließlich, dass der Schlüssel zur Verhinderung solcher Open-Source-KI-Plattformen derzeit rechtliche Fragen seien. Wenn die EU künftig die Strukturierung der KI-Industrie vorantreiben will, dann ist eine solche Open-Source-Plattform unerlässlich.

Das obige ist der detaillierte Inhalt vonTuring-Award-Gewinner LeCun: ChatGPT unterliegt enormen Einschränkungen und die Lebensdauer des autoregressiven Modells beträgt nicht mehr als 5 Jahre.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!