Bengio, der Pate der KI: Ich fühle mich verloren und die Sorge um die KI ist zu einer „mentalen inneren Reibung' geworden!

Kürzlich wurde Yoshua Bengio, einer der Turing Big Three, von der BBC interviewt.

Bengio zeigte während des Interviews ein starkes Gefühl der „Melancholie“ und sagte, dass er sich in der Karriere, die er sein ganzes Leben lang verfolgt hatte, etwas verloren fühlte.

Genauer gesagt meint er, wenn er die mögliche Entwicklungsgeschwindigkeit der KI früher erkennen könnte, dann könnte er dazu neigen, der Sicherheit der KI Vorrang vor ihrer Praktikabilität zu geben.

Wissen Sie, Bengio hat gerade den vor ein paar Tagen veröffentlichten offenen Brief „KI könnte die Menschheit ausrotten“ unterzeichnet.

Verlorener Bengio

Die Unterzeichnung des offenen Briefes zeigt deutlich Bengios Haltung.

Dieser offene Brief mit 22 Wörtern vergleicht das Risiko, dass KI die Menschheit ausrotten könnte, mit sozialen Krisen wie Atomkrieg und Infektionskrankheiten.

Im BBC-Interview erläuterte Bengio seine Ansichten.

Er forderte uns auf, KI strenger zu regulieren. Beispielsweise sollte dem Militär niemals die Macht gegeben werden, KI einzusetzen.

Natürlich verschließen politische Institutionen nicht die Augen vor der Entwicklung von KI.

Die Europäische Union ist möglicherweise die erste Organisation, die Gesetze zu KI erlässt. Ebenfalls kürzlich erklärte die Europäische Union, dass in den kommenden Wochen möglicherweise ein Verhaltenskodex für KI erstellt wird.

Diese Art von Sorge ist nicht unbegründet. Denn die hohe Leistungsfähigkeit der KI kann für menschenschädliche Ziele genutzt werden, etwa für die Entwicklung neuer Chemiewaffen.

Bengio sagte, er sei sehr besorgt darüber, dass diejenigen mit „böswilligen Absichten“ die KI beherrschen, insbesondere wenn sich die KI so schnell entwickelt.

„Es kann das Militär sein, es können Terroristen sein oder es können psychisch instabile Menschen sein. Kurz gesagt, wenn diese Menschen die KI beherrschen und sie einige äußerst gefährliche Dinge ausführen lassen, werden die Konsequenzen unvorhersehbar sein“

Darüber hinaus sagte er, dass wir die KI dabei möglicherweise nicht unterbrechen können, wenn wir uns weiterentwickeln.

Als nächstes sprach Bengio noch einmal über sich.

Diese Sorgen verstärkten zweifellos seine inneren Spannungen und hatten Auswirkungen auf sein Privatleben und seine Arbeit.

In der Vergangenheit war Bengio ein stolzer KI-Experte (und natürlich ist er es auch heute). Damals war er bereit, sein ganzes Leben lang für den Beruf zu kämpfen, den er liebte und in dem er gut war.

Die KI-Karriere brachte ihm einst ein Gefühl von Identität, Anerkennung und Orientierung im Leben. Aber jetzt, aufgrund dieser Sorgen, sind ihm diese Dinge nicht mehr klar.

„Für diejenigen in der KI-Branche ist das eine emotionale Herausforderung

Hinter der Trübsal steckt jedoch immer noch eine positive Einstellung.

„Man kann sagen, ich fühle mich verloren. Aber man muss durchhalten, man muss sich an Diskussionen beteiligen und andere zum Mitdenken anregen.“

Auch Musk hat ähnliche Bedenken geäußert.

Obwohl er nicht glaubt, dass KI den Menschen definitiv ausrotten wird, glaubt er, dass KI den Menschen einschränken und kontrollieren kann.

Bengio glaubt, dass alle Technologieriesenunternehmen, die mit KI-Produkten zu tun haben, kontrolliert und registriert werden müssen.

„Regierungen müssen nachverfolgen, was sie tun, sie müssen in der Lage sein, sie zu prüfen. Und das ist einfach das Grundlegendste, was wir in jeder anderen Branche tun, wie zum Beispiel im Flugzeug-, Automobil- oder Pharmabau.“

„Wir auch.“ Es besteht die Notwendigkeit, eine Art ethisches Training einzuführen, das in der Informatik normalerweise nicht erfolgt.“ Dr. Sasha Luccioni, Wissenschaftlerin bei Huggingface, sagte, dass die Gesellschaft auf Themen wie KI-Voreingenommenheit und Fehlinformationen achten sollte. Sie sieht diese Probleme als konkret.

Ihre Philosophie ist, dass spezifischen Themen mehr Aufmerksamkeit geschenkt werden sollte. Die Ausrottung der Menschheit ist ein bisschen imaginär und wir können nicht einmal darüber reden.

Tatsächlich gibt es viele Beispiele, die die vielen Vorteile zeigen, die KI für die Gesellschaft bringt.

Erst letzte Woche konnte ein gelähmter Mensch mit der Kraft der KI wieder versuchen zu gehen, indem er einfach seine Gedanken kontrollierte, dank eines mithilfe von KI entwickelten Mikrochips.

Neben den Auswirkungen der Technologie können auch die tiefgreifenden Auswirkungen der KI auf die Volkswirtschaft nicht ignoriert werden.

Viele Unternehmen haben begonnen, KI-Tools einzusetzen, um menschliche Arbeit zu ersetzen, was auch ein wichtiger Grund ist, warum Hollywood-Drehbuchautoren einen Streik gestartet haben.

Hinton ist entschieden zurückgetreten

Zufälligerweise war Hinton, der ebenfalls zu den Turing Big Three gehört, vor einiger Zeit aus demselben Grund auf einer heißen Suche.

Damals waren die großen Medien voll von dieser Schlagzeile: Geoffrey Hinton, der Dekan des Deep Learning und Vater der neuronalen Netze, gab plötzlich seinen Rücktritt von Google bekannt.

Um frei über KI-Risiken sprechen zu können, ohne die Auswirkungen auf Google zu berücksichtigen.

In dem Bericht der New York Times warnte Hinton die Welt direkt: Seien Sie vorsichtig, es liegt Gefahr vor Ihnen, es besteht Gefahr vor Ihnen, es besteht Gefahr vor Ihnen!

Und deshalb ist er zutiefst besorgt über die Risiken künstlicher Intelligenz. Hinton sagte unverblümt: „Ich bereue mein Lebenswerk zutiefst.“

Vom Pionier der künstlichen Intelligenz zum Weltuntergangspropheten markiert Hintons Transformation auch die Mitte der Jahrzehnte Wendepunkt.

Das beunruhigt auch viele Menschen in der Branche. Sie haben Angst, dass die Forschung, die sie betreiben, eine Gefahr für die Außenwelt darstellt.

Weil generative KI möglicherweise zu einem Werkzeug zur Generierung von Fehlinformationen geworden ist. Und irgendwann in der Zukunft könnte es eine Bedrohung für den Menschen darstellen.

Nach Ansicht von Hinton haben wir noch keinen Weg gefunden, um zu verhindern, dass schlechte Menschen damit schlechte Dinge tun.

Nachdem Hinton zurückgetreten war, unterzeichnete Hinton, der Pate der künstlichen Intelligenz, inmitten der lautstarken Welle der Opposition die beiden offenen Briefe, die die Entwicklung der KI einschränkten, nicht.

Er sagte, dass er vor seinem Rücktritt von seinem Job weder Google noch andere Unternehmen öffentlich kritisieren wollte.

Erst letzten Monat hat sich Hinton endgültig entschieden und Google über seinen Rücktritt informiert.

Nachdem er sich entschieden hat, Google zu verlassen, kann Hinton endlich frei über die Risiken von KI sprechen.

Ich bereue mein Lebenswerk zutiefst.

Ich kann mich nur so trösten: Auch wenn es mich nicht gibt, wird es andere geben.

Das obige ist der detaillierte Inhalt vonBengio, der Pate der KI: Ich fühle mich verloren und die Sorge um die KI ist zu einer „mentalen inneren Reibung' geworden!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!