Drei Stufen der künstlichen Intelligenz: Warum Wissenschaftler ihre Kräfte bündeln, um KI-Technologie einzuschränken, die zum Aussterben der Menschheit führen könnte

Experten, darunter die Leiter von OpenAI und Google Deepmind, warnen davor, dass künstliche Intelligenz zum Aussterben der Menschheit führen könnte, aber wie können Maschinen Menschen ersetzen?

Seit seiner Einführung im November 2022 hat sich ChatGPT – ein Chatbot, der künstliche Intelligenz nutzt, um Fragen zu beantworten oder Text oder sogar Code basierend auf den Bedürfnissen des Benutzers zu generieren – zur am schnellsten wachsenden Internetanwendung in der Geschichte entwickelt.

In nur zwei Monaten wurden 100 Millionen aktive Nutzer erreicht. Nach Angaben des Technologieüberwachungsunternehmens Sensor Town hat Instagram ganze zweieinhalb Jahre gebraucht, um diesen Meilenstein zu erreichen.

ChatGPT, entwickelt von OpenAI mit finanzieller Unterstützung von Microsoft, erfreut sich großer Beliebtheit und löst heftige Spekulationen über die Auswirkungen künstlicher Intelligenz auf die Zukunft der Menschheit aus.

Dutzende Experten unterstützten eine auf der Seite des AI Safety Center veröffentlichte Erklärung, in der es heißt: „Die Eindämmung des durch KI verursachten Aussterberisikos sollte neben anderen gesellschaftlichen Risiken wie Epidemien und Atomkrieg zu einer globalen Priorität werden.“

Aber einige Leute sagen, dass diese Sorge übertrieben ist.

Menschen nachahmen

Die von künstlicher Intelligenz wie ChatGPT, DALL-E, Bard und AlphaCode erzeugten Texte (von Prosa, Gedichten und Witzen bis hin zu Computercode) und Bilder (wie Diagramme, Fotos und Grafiken) sind nahezu identisch und nicht unterscheidbar aus der eigenen Arbeit des Menschen.

Studenten schreiben damit Hausaufgaben, Politiker schreiben damit Reden. Der demokratische Abgeordnete Jack Auchincloss stellte die Ressource im US-Kongress vor.

Der Technologieriese IBM hat angekündigt, die Rekrutierung von 7.800 Stellen einzustellen, die mit künstlicher Intelligenz bewältigt werden können.

Wenn Sie all diese Veränderungen überfordern, machen Sie sich bereit:

Wir befinden uns erst in der ersten Phase der künstlichen Intelligenz, und es stehen noch zwei weitere Phasen an, von denen einige Wissenschaftler befürchten, dass sie das Überleben der Menschheit gefährden könnten.

Das Folgende sind die drei Phasen.

1. Künstliche enge Intelligenz

Eine schwache KI, auch bekannt als eingeschränkte Domänen-KI, konzentriert sich auf eine einzelne Aufgabe und führt sich wiederholende Arbeiten über eine Reihe von Funktionen hinweg aus.

Es lernt normalerweise aus großen Datenmengen, beispielsweise aus dem Internet, aber nur in dem spezifischen Bereich, für dessen Lernen es programmiert wurde.

Ein Beispiel ist ein Schachprogramm, das den Weltmeister schlagen kann, aber andere Aufgaben nicht ausführen kann.

Smartphones sind voll von Apps, die diese Technologie nutzen, von GPS-Karten bis hin zu Musik- und Videoprogrammen, die Ihren Geschmack verstehen und Empfehlungen aussprechen.

Viel komplexere Systeme wie selbstfahrende Autos und ChatGPT fallen immer noch in die Kategorie der schwachen künstlichen Intelligenz. Sie können nicht außerhalb der Grenzen ihrer zugewiesenen Rolle agieren und daher keine Entscheidungen selbst treffen.

Aber einige Experten glauben, dass Systeme, die mit automatischen Lernfunktionen wie ChatGPT oder AutoGPT programmiert sind, in die nächste Entwicklungsstufe eintreten könnten.

2. Künstliche allgemeine Intelligenz

Künstliche allgemeine Intelligenz wird Einzug halten, wenn Maschinen in der Lage sind, alle intellektuellen Aufgaben zu erfüllen, die Menschen erledigen können.

Es wird auch „Starke Künstliche Intelligenz“ genannt.

6 Monate Sperre

Im März 2023 forderten mehr als 1.000 technische Experten, dass „alle Labore für künstliche Intelligenz die Ausbildung von Systemen für künstliche Intelligenz, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate aussetzen“, GPT-4 ist die neueste Version von ChatGPT.

Einschließlich Apple-Mitbegründer Steve Wozniak und anderen Technologiegiganten, darunter Tesla und SpaceX-Chef Elon Musk, schrieben: „Künstliche Intelligenzsysteme mit Intelligenz, die mit Menschen konkurrieren, können schädlich für die Gesellschaft und die Menschheit sein.“ Musk war ein Co -Gründer von OpenAI und trat später aufgrund von Meinungsverschiedenheiten mit der Unternehmensführung aus dem Vorstand zurück.

In dem vom gemeinnützigen Future of Life Institute veröffentlichten Brief sagen Experten, dass, wenn Unternehmen sich weigern, ihre Projekte schnell zu stoppen, „die Regierung eingreifen und ein Moratorium verhängen sollte“, damit Sicherheitsmaßnahmen entworfen und umgesetzt werden können.

„Klug und dumm“

Der Brief wurde von Carissa Veliz vom Institut für Ethik der Künstlichen Intelligenz an der Universität Oxford unterzeichnet. Sie weigerte sich zu unterschreiben, weil sie der Meinung war, dass die vom Center for Artificial Intelligence Safety schließlich herausgegebene Warnerklärung zu extrem sei.

„Die Art von KI, die wir derzeit entwickeln, ist sowohl intelligent als auch dumm“, sagte sie zu Andrew Webb. „Wenn jemand ChatGPT oder eine andere KI ausprobiert hat, wird er feststellen, dass sie sehr erhebliche Einschränkungen haben.“

Veliz sagte, sie sei besorgt, dass künstliche Intelligenz in extrem hohem Maße Fehlinformationen hervorbringen werde.

Während die US-Präsidentschaftswahl 2024 näher rückt, mache ich mir zunehmend Sorgen darüber, dass wichtige Plattformen wie Twitter und andere große Plattformen ihre Teams für KI-Ethik und -Sicherheit entlassen haben.

Die US-Regierung ist sich der potenziellen Bedrohung bewusst. Das Weiße Haus sagte in einer Erklärung vom 4. Mai: „Künstliche Intelligenz ist eine der mächtigsten Technologien unserer Zeit, aber um die Chancen zu nutzen, die sie mit sich bringt, müssen wir zunächst ihre Risiken reduzieren.“

Der US-Kongress hat den CEO von OpenAI, Sam Altman, vorgeladen, um Fragen zu ChatGPT zu beantworten.

Bei einer Anhörung im Senat sagte Altman, es sei „sehr wichtig“ für die staatliche Regulierung seiner Branche im Zuge der Entwicklung der künstlichen Intelligenz.

Gutierrez, ein Politikforscher am Future of Life Institute, erklärte Reportern, dass eine der großen Herausforderungen der künstlichen Intelligenz darin besteht, dass „es kein gemeinsames Expertengremium gibt, das über die Regulierung entscheidet, wie das Zwischenstaatliche Gremium für Klima“. „Change“-Komitee so.“

Damit sind wir bei der dritten und letzten Stufe der künstlichen Intelligenz angelangt.

3. Super künstliche Intelligenz

Diese Theorie besagt, dass wir, sobald wir die zweite Stufe erreicht haben, bald in die letzte Stufe eintreten werden, die „Super-Künstliche Intelligenz“. Dies geschieht, wenn künstliche Intelligenz die menschliche Intelligenz übertrifft.

Bostrom, ein Philosoph und Experte für künstliche Intelligenz an der Universität Oxford, definiert Superintelligenz als „Intelligenz, die die besten menschlichen Gehirne in fast allen Bereichen, einschließlich wissenschaftlicher Kreativität, allgemeiner Intelligenz und sozialen Fähigkeiten, bei weitem übertrifft.“

„Menschen müssen lange lernen, um Ingenieure, Krankenschwestern oder Anwälte zu werden. Die Schwierigkeit bei allgemeiner künstlicher Intelligenz besteht in ihrer Fähigkeit, sich in Situationen kontinuierlich zu verbessern“, erklärte Gutierrez. ”.

Science-Fiction

Dieses Konzept erinnert an die Handlung des Films „Terminator“, in dem Maschinen einen Atomkrieg beginnen, der die Menschheit zerstört.

Der Informatiker der Princeton University, Narayanan, sagte zuvor gegenüber Reportern, dass Science-Fiction-Katastrophenszenarien unrealistisch seien: „Die derzeitige künstliche Intelligenz reicht bei weitem nicht aus, um diese Risiken Wirklichkeit werden zu lassen. Letztendlich lenkt sie die Menschen von künstlicher Intelligenz ab und schadet der Aufmerksamkeit kurzfristig.“

Obwohl es viele Debatten darüber gibt, ob Maschinen tatsächlich die Art von umfassender Intelligenz erreichen können, die Menschen besitzen, insbesondere im Hinblick auf emotionale Intelligenz, ist dies eine der größten Ängste derjenigen, die glauben, wir stünden kurz davor, allgemeine künstliche Intelligenz zu erreichen Intelligenz.

Kürzlich warnte Jeffrey Hinton, der „Godfather of Artificial Intelligence“, dass wir uns diesem Meilenstein nähern könnten. Hinton ist ein Pionier darin, Maschinen beizubringen, aus Erfahrungen zu lernen.

„Ich glaube nicht, dass [Maschinen] im Moment schlauer sind als wir, wenn man bedenkt, dass er im Ruhestand ist und 75 Jahre alt ist, denke ich, dass sie es bald schaffen werden.“

In einer Erklärung gegenüber der New York Times, in der er seinen Abschied von Google ankündigte, sagte Hinton, dass er nun seine geleistete Arbeit bereue, weil er befürchte, dass „böse Schauspieler“ KI nutzen würden, um „schlechte Dinge“ zu tun.

Er warnte davor, dass diese Maschinen am Ende „Unterziele wie ‚Ich brauche mehr Leistung‘ erzeugen“ könnten, was ein „existentielles Risiko“ darstellen würde.

Obwohl Hinton anerkennt, dass künstliche Intelligenz Risiken birgt, glaubt er, dass ihre Vorteile kurzfristig die Risiken überwiegen, und ist daher der Ansicht, dass wir die Entwicklung dieser Technologie nicht einstellen sollten. “, sagte er.

Aussterben oder Unsterblichkeit

Der britische Physiker Stephen Hawking hat eine eindringliche Warnung ausgesprochen.

„Die volle Entwicklung der künstlichen Intelligenz könnte das Ende der Menschheit bedeuten“, sagte er 2014, vier Jahre vor seinem Tod, gegenüber Reportern.

Maschinen mit diesem Intelligenzniveau „werden sich von selbst weiterentwickeln und sich immer schneller neu gestalten“, sagte er.

Nanoroboter und Unsterblichkeit

Der futuristische Erfinder und Autor Kurzweil ist einer der größten Enthusiasten der künstlichen Intelligenz. Er ist Forscher für künstliche Intelligenz bei Google und Mitbegründer der Singularity University im Silicon Valley.

Kurzweil glaubt, dass Menschen mithilfe superintelligenter künstlicher Intelligenz biologische Hindernisse überwinden können.

Im Jahr 2015 prognostizierte er, dass der Mensch bis 2030 Unsterblichkeit erlangen wird, weil Nanobots (sehr kleine Roboter) in unserem Körper arbeiten und Schäden oder Krankheiten reparieren und heilen können.

Management künstlicher Intelligenz

Gutierrez stimmt zu, dass der Schlüssel in der Schaffung eines KI-Governancesystems liegt.

„Stellen Sie sich eine Zukunft vor, in der ein Wesen über so viele Informationen über jeden Menschen auf dem Planeten und seine Gewohnheiten verfügt (aufgrund von Internetrecherchen), dass es uns auf eine Weise kontrollieren kann, die uns nicht bewusst ist“, sagte er.

„Das Worst-Case-Szenario ist kein Krieg zwischen Menschen und Robotern. Wir teilen diesen Planeten mit einem Wesen, das schlauer ist als wir, und leider merken wir nicht, dass wir manipuliert werden

.“

Das obige ist der detaillierte Inhalt vonDrei Stufen der künstlichen Intelligenz: Warum Wissenschaftler ihre Kräfte bündeln, um KI-Technologie einzuschränken, die zum Aussterben der Menschheit führen könnte. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!