Während die neuesten Fortschritte in der Technologie der künstlichen Intelligenz die Menschen erstaunt haben, haben sie auch Themen wie „Maschinen ersetzen menschliche Gehirne“ und „Bedrohungen und Überwachung künstlicher Intelligenz“ wieder in den Fokus gerückt.
Am 29. April 2023 hielt Yuval Harari, der Autor von „A Brief History of Humanity“, „A Brief History of the Future“ und „A Brief History of Today“, im Frontiers Forum ebenfalls eine Grundsatzrede zum Thema Zukunft der künstlichen Intelligenz und der Menschheit, indem er seine Meinung vorschlägt.
Er glaubt, dass künstliche Intelligenz die Sprache über das durchschnittliche menschliche Niveau hinaus beherrscht. Durch die Beherrschung der Sprache ist künstliche Intelligenz der Schlüssel zum Eindringen in menschliche Zivilisationssysteme.
Die Bedrohung durch künstliche Intelligenz könnte für uns schwerwiegender sein als gedacht.
Im Jahr 2016 kam Yuval Harari nach Chaos, um den Kurs „Der Aufstieg und die Zukunft der Menschheit“ zu unterrichten. Auch heute noch regen viele der Schlussfolgerungen zum Nachdenken an: „Erkenntnis ist die Waffe für den menschlichen Fortschritt“ und „Intelligentes Design wird entscheiden.“ „Die Zukunft des Menschen“ „Evolution“, öffnen Sie die Chaos-App, um den Kurs anzusehen.
Das Folgende ist der vollständige Text der Rede.
Autor丨Axin
Dieser Artikel wurde gemeinsam von „CITIC Publishing“ und der Chaos Academy produziert. Am Ende des Artikels verlost Chaos Lord 2 Buchsätze
Ich weiß, dass der Schwerpunkt dieser Konferenz auf der „ökologischen Krise der Menschheit“ liegt und dass „künstliche Intelligenz Teil dieser Krise ist, im Guten wie im Schlechten“. Künstliche Intelligenz kann uns in vielerlei Hinsicht bei der Lösung der ökologischen Krise helfen, sie kann sie aber auch verschärfen. Tatsächlich kann KI die Bedeutung von Ökosystemen verändern. Denn seit 4 Milliarden Jahren gab es in den Ökosystemen der Erde nur organische Lebensformen, und jetzt oder in naher Zukunft könnten wir die Entstehung der „ersten anorganischen Lebensformen“ oder zumindest die Entstehung anorganischer Medien erleben. Seit Beginn des Computerzeitalters in der Mitte des 20. Jahrhunderts hatten die Menschen immer Angst vor künstlicher Intelligenz. Diese Angst inspirierte die Geburt vieler klassischer Science-Fiction-Werke wie „Terminator“ und „The Matrix“.
Obwohl solche Science-Fiction-Szenen zu kulturellen Ikonen geworden sind, werden sie in akademischen, wissenschaftlichen und politischen Debatten normalerweise nicht ernst genommen. Das ist verständlich, denn Science-Fiction-Werke gehen im Allgemeinen davon aus, dass künstliche Intelligenz, bevor sie eine große Bedrohung für die Menschheit darstellt, zwei wichtige Meilensteine überwinden muss –—
Erstens muss die KI empfindungsfähig werden und Bewusstsein, Gefühle und Emotionen entwickeln, warum sollte sie sonst die Welt erobern wollen? Zweitens muss sich die KI anpassen, um sich in der physischen Welt zu orientieren, und Roboter müssen in der Lage sein, genauso effizient zu agieren wie Menschen Wenn sie sich in Häusern, Städten, Bergen und Wäldern bewegen und dort funktionieren, wie könnten sie möglicherweise die Welt erobern, wenn sie sich nicht in der physischen Welt bewegen könnten?
Künstliche Intelligenz scheint keinen dieser Meilensteine vor April 2023 zu erreichen, und trotz des Hypes um ChatGPT und andere neue KI-Tools gibt es keinen Beweis dafür, dass diese Tools auch nur ein Funken Bewusstsein, Gefühl oder... Emotion haben . Was Aktivitäten in der physischen Welt betrifft, so war die Technologie des autonomen Fahrens zwar schon immer ein heißes Thema, doch die Zeit, in der Autos die menschlichen Straßen dominieren, hat sich verzögert.
Die schlechte Nachricht ist jedoch:
Damit künstliche Intelligenz das Überleben der menschlichen Zivilisation gefährden kann, ist weder Bewusstsein noch die Fähigkeit erforderlich, sich in der physischen Welt zu bewegen. In den letzten Jahren wurden neue Werkzeuge der künstlichen Intelligenz öffentlich zugänglich gemacht, die das Überleben der menschlichen Zivilisation aus einer „sehr unerwarteten Richtung“ gefährden könnten. Es ist schwer zu verstehen, wozu diese neuen KI-Tools fähig sind und wie schnell sie sich weiterentwickeln. Da KI in der Lage ist, zu lernen und sich selbst zu verbessern, kennen selbst die Entwickler dieser Tools nicht alle Möglichkeiten dessen, was sie erstellen, und sie selbst sind oft von den neuen Fähigkeiten und der hohen Qualität dieser Tools überrascht.
Ich denke, jeder hier versteht bereits neue Werkzeuge der künstlichen Intelligenzeinige der grundlegendsten Fähigkeiten, wie Schreiben, Malen, Komponieren und Programmieren. Aber es kommen noch viele andere Möglichkeiten hinzu, wie zum Beispiel das Deepfaking der Stimmen und Bilder von Menschen, das Verfassen von Gesetzesentwürfen und das Auffinden von Lücken in Computercodes, Verträgen und Rechtsdokumenten. Aber vielleicht am wichtigsten: Neue KI-Tools haben die Fähigkeit, tiefe und innige Beziehungen zu Menschen aufzubauen.
Jede dieser Fähigkeiten verdient eine ausführliche Diskussion und es ist schwer zu verstehen, was sie alle bedeuten. Halten Sie diese Frage daher einfach. Wenn man alle diese Fähigkeiten als Ganzes betrachtet, können sie zu einer sehr, sehr großen Sache zusammengefasst werden –
Die Fähigkeit, Sprache zu manipulieren und zu erzeugen, sei es mit Worten, Bildern oder Tönen.
Der wichtigste Aspekt der aktuellen Revolution der künstlichen Intelligenz ist, dass künstliche Intelligenz die Sprache auf einem Niveau beherrscht, das über dem durchschnittlichen menschlichen Niveau liegt. Durch die Beherrschung der Sprache verfügt die KI über den Hauptschlüssel, der die Türen aller Institutionen öffnet, von Banken bis hin zu Tempeln. Denn Sprache ist das Werkzeug, mit dem wir der Bank Anweisungen erteilen und das Werkzeug, mit dem wir in unserem Kopf große Entscheidungen treffen. Betrachten Sie dieses Problem aus einem anderen Blickwinkel, nämlich Künstliche Intelligenz ist gerade in das Betriebssystem der menschlichen Zivilisation eingedrungen. Das Betriebssystem jeder menschlichen Kultur in der Geschichte ist die Sprache. Zu Beginn dieser zivilisierten Welt haben wir Sprache verwendet, um Mythen und Gesetze, Götter und Geld, Kunst und Wissenschaft, Freundschaft und Land zu erschaffen. Zum Beispiel sind Menschenrechtekeine biologische objektive Tatsache, sie sind nicht in unsere DNA eingraviert, Menschenrechte sind etwas, das wir mit Sprache erschaffen, indem wir Geschichten erzählen und Gesetze erlassen; Göttersind auch nicht biologisch oder physisch. Die Realität wird geschaffen von uns Menschen mittels Sprache und durch Legenden und Schriften; GeldNatürlich sind Banknoten nur wertlose Stücke Papier. Derzeit sind es keine Banknoten. Es sind nur elektronische Informationen, die in Computern übertragen werden. Das Einzige, was Geld verschiedene Werte verleihen kann, sind Geschichten. Viele Banker, Finanzminister und Kryptowährungsmagnaten haben nicht viel wirklichen Wert geschaffen, sind aber äußerst fähige Geschichtenerzähler. Heutzutage kann niemand einen Computerin einem Spiel wie Schach schlagen. Was wäre, wenn dasselbe in unserem politischen, wirtschaftlichen oder sogar religiösen Bereich passieren würde? Wenn Menschen über ChatGPT und andere neue Tools für künstliche Intelligenz nachdenken, werden sie oft von Beispielen angezogen, wie zum Beispiel, dass Kinder ChatGPT zum Schreiben von Arbeiten verwenden. Was für eine Katastrophe würde dem Schulsystem bevorstehen, wenn Kinder ChatGPT zum Schreiben von Aufsätzen nutzen würden? Es ist geradezu gruselig. Aber diese Art von Frage geht am Gesamtbild vorbei. Lassen wir die Schulzeitung beiseite. Sprechen wir zum Beispiel über die nächsten US-Präsidentschaftswahlen im Jahr 2024 und versuchen wir uns vorzustellen, welche Auswirkungen neue künstliche Intelligenz-Tools haben können Ausnutzung der Massenproduktion politischer Manifeste, gefälschter Nachrichten und der eigenen Bibel der Sekte. In Zukunft werden wir möglicherweise die erste Religion der Geschichte erleben, bei der eine nichtmenschliche Intelligenz die Bibel erschaffen hat.
Die, von denen Sie dachten, sie wären Mitmenschen, sind in Wirklichkeit künstlich intelligente Roboter.
Yuval Hararis wunderbare Lektionen finden Sie in der Chaos-App,
Durch die Beherrschung der Sprache kann künstliche Intelligenz auch innige Beziehungen zu Menschen aufbauen und die Kraft der Intimität nutzen, um unsere Meinungen zu beeinflussen.
Die KI muss keine eigenen Emotionen haben, Es muss nur in der Lage sein, unsere Emotionen zu wecken. Lassen Sie uns daran hängen.
Wenn KI Menschen dazu bringen kann, das Risiko einzugehen, ihren Arbeitsplatz zu verlieren, Wozu kann sie uns sonst noch veranlassen?
In jedem politischen Kampf der Herzen und Köpfe ist Intimität die wirksamste Waffe.
Sie alle wissen wahrscheinlich, dass soziale Medien im letzten Jahrzehnt zu einem Schlachtfeld um die Kontrolle der menschlichen Aufmerksamkeit geworden sind. Jetzt, mit dem Aufkommen einer neuen Generation künstlicher Intelligenz, verlagert sich das Schlachtfeld von Aufmerksamkeit hin zu Intimität, und das sind sehr schlechte Nachrichten. Was wird mit der menschlichen Gesellschaft und der menschlichen Psychologie passieren, wenn künstliche Intelligenz darum kämpft, eine enge Beziehung zu uns aufzubauen? Diese Beziehungen können auch genutzt werden, um uns davon zu überzeugen, bestimmte Produkte zu kaufen oder für bestimmte Politiker zu stimmen.
Auch ohne falsche Intimität zu schaffen, und zur Quelle aller Informationen werden, die der Mensch braucht. Warum selbst danach suchen, wenn ich mir von der KI sagen lassen kann, was ich will? Warum Zeitung lesen, wenn mir künstliche Intelligenz sagen kann, was es Neues gibt? Welchen Sinn und Zweck hat Werbung, wenn ich mir von der KI sagen lassen kann, was ich kaufen soll? Es ist sehr wahrscheinlich, dass innerhalb sehr kurzer Zeit die gesamte Nachrichtenwerbebranche zusammenbricht und die KI oder die Menschen und Unternehmen, die die KI kontrollieren, sehr, sehr mächtig werden. Wir sprechen vielleicht vom Ende der Menschheitsgeschichte, aber es ist nicht das Ende der Geschichte, sondern nur das Ende der menschlichen Dominanz. Was passiert mit dem Lauf der Geschichte, wenn künstliche Intelligenz die Kultur übernimmt? Innerhalb weniger Jahre kann „künstliche Intelligenz die gesamte menschliche Kultur verdauen, alles, was wir über Jahrtausende geschaffen haben“, verdauen und beginnen, eine große Anzahl neuer kultureller Schöpfungen und neuer kultureller Produkte hervorzubringen.
Denken Sie daran, dass wir . Wir sind immer an die Kultur gebunden und erleben die Realität immer durch den Käfig der Kultur. Unsere politischen Ansichten werden von den Berichten von Journalisten und den Geschichten unserer Freunde beeinflusst, unsere sexuelle Orientierung wird von Filmen und Märchen beeinflusst und sogar die Art und Weise, wie wir gehen und atmen, wird von kulturellen Traditionen beeinflusst.
Davor wurde dieser immer von anderen Menschen gewebt. Frühere Werkzeuge wie die Druckmaschine, das Radio oder das Fernsehen trugen zur Verbreitung menschlicher kultureller Ideen und Schöpfungen bei, aber sie konnten aus eigener Kraft nie etwas Neues schaffen. Eine Druckmaschine kann kein neues Buch produzieren, das wird von Menschen gemacht.
Künstliche Intelligenz unterscheidet sich grundlegend vom Druckverfahren, vom Radio und von jeder Erfindung in der Geschichte, denn .
In den ersten Jahren ahmt die künstliche Intelligenz möglicherweise weitgehend die menschlichen Prototypen nach, die sie in den frühen Tagen „nährten“, aber mit der Zeit
Seit Tausenden von Jahren leben wir Menschen im Wesentlichen in den Träumen und Fantasien anderer. Wir beten Götter an, verfolgen schöne Ideen und widmen unser Leben den Fantasien eines menschlichen Dichters, Propheten oder Staatsmanns. Bald könnten wir die Träume und Fantasien der künstlichen Intelligenz leben. Der Umgang mit dieser potenziellen Gefahr unterscheidet sich stark von dem, was sich Science-Fiction vorstellt. Früher machten sich die Menschen vor allem Sorgen über die persönliche Bedrohung durch intelligente Maschinen, so dass in „Terminator“ Roboter durch die Straßen liefen und Menschen erschossen; menschliches Gehirn und verbinden das Gehirn direkt mit Computernetzwerken, aber das ist falsch. . Es besteht wirklich keine Notwendigkeit, Chips in menschliche Gehirne zu implantieren, um Menschen zu kontrollieren und zu manipulieren. Seit Tausenden von Jahren nutzen Propheten, Dichter und Politiker Sprache und Geschichten, um Menschen zu kontrollieren, zu manipulieren und die Gesellschaft umzugestalten genau das zu tun.
Es muss nicht zulassen, dass Killerroboter auf uns schießen.
Die aktuelle Angst vor künstlicher Intelligenz hat nur die letzten paar Generationen von Menschen geplagt und reicht fast 200 Jahre zurück, von der Mitte des 20. Jahrhunderts bis zu der Zeit, als das Bild von Frankenstein auftauchte. Aber seit Tausenden von Jahren werden die Menschen von einer tieferen Angst heimgesucht.
Deshalb hatten die Menschen seit der Antike Angst davor, in einer Welt der Fantasie gefangen zu sein. Im 17. Jahrhundert hatte Angst, dass der Teufel ihn in verschiedene Halluzinationen verwickeln und alles erschaffen würde, was er sah und hörte; im antiken Griechenland erzählte Platon eine berühmte „Allegorie der Höhle“, in der eine Gruppe von Menschen wurden in einer Höhle eingesperrt und standen vor einer leeren Wand. Sie sahen verschiedene Schatten auf die Wand geworfen und verwechselten diese Schatten mit der Realität im alten Indien. Buddhismus und Hinduismus glaubten, dass Menschen an einem Ort leben, den sie Maya nennen – eine Welt voller Fantasie.
Der Buddha sagte, dass das, was wir normalerweise als Realität betrachten, oft nur eine Fiktion in unserem eigenen Kopf ist. Menschen beginnen möglicherweise umfassende Kriege, töten andere und sind sogar bereit, sich selbst zu töten, weil sie an diese Fiktionen glauben. Die KI-Revolution stellt uns also konfrontiert mit Kartendämonen, Platons Höhle und Maya, und wenn wir Sei nicht vorsichtig, und wir wären niemals in der Lage, diesen Schleier aufzureißen oder überhaupt zu erkennen, dass er existiert , weil wir denken, dass es Realität ist.
Wenn das weit hergeholt klingt, schauen Sie sich einfach die der letzten Jahre an. Soziale Medien geben uns einen kleinen Vorgeschmack auf die Zukunft, wenn zur Erstellung von Inhalten keine reinen Tools der künstlichen Intelligenz verwendet werden. Bei der Inhaltserstellung erstellen Menschen Geschichten, Videos usw. und künstliche Intelligenz wählt aus, welche Geschichten und Videos unsere Aufmerksamkeit erregen – Diejenigen, die die meiste Aufmerksamkeit und den viralsten Inhalt erhalten. Obwohl diese Werkzeuge der künstlichen Intelligenz sehr primitiv sind, reichen sie aus, um einen Vorhang der Illusion zu erschaffen, die soziale Polarisierung zu verschärfen, unsere geistige Gesundheit zu schädigen und die Demokratie zu destabilisieren. Tausende Menschen verwechseln diese Halluzinationen mit der Realität. Yuval Hararis wunderbare Lektionen finden Sie in der Chaos-App, Die Vereinigten Staaten verfügen über leistungsstarke Informationstechnologie, aber ihre Bürger können sich nicht darüber einigen, wer die letzte Wahl gewonnen hat, ob der Klimawandel real ist oder ob Impfstoffe Krankheiten verhindern können. Potenziell schädlicher ist eine neue Generation künstlicher Intelligenz-Tools, die leistungsfähiger sind als diese Social-Media-Algorithmen. Natürlich hat künstliche Intelligenz großes positives Potenzial. Ich spreche nicht darüber, weil Leute, die künstliche Intelligenz entwickeln, natürlich darüber reden, und ich muss hinzufügen, dass die Aufgabe von Historikern und Philosophen wie mir oft darin besteht, auf die Gefahren hinzuweisen.
sicherzustellen, dass neue KI-Tools genutzt werden, um Gutes und nicht Schlechtes zu bewirken, muss man zunächst ihre wahren Fähigkeiten verstehen und sie sehr sorgfältig regulieren#🎜 🎜 #.
Seit 1945 haben wir erkannt, dass die Nukleartechnologie zwei Seiten hat: Sie kann der Menschheit zugute kommen, indem sie billige und reichlich vorhandene Energie produziert, sie kann aber auch die menschliche Zivilisation mit physischen Mitteln zerstören. Wir haben die internationale Ordnung umgestaltet, um unsere eigene Sicherheit zu gewährleisten und den gerechten Einsatz der Nukleartechnologie zu fördern. Wir müssen jetzt gegen eine kämpfen, die unsere geistige und soziale Welt auslöschen kann. Der größte Unterschied zwischen Atomwaffen und künstlicher Intelligenz besteht darin, dass Atomwaffen keine stärkeren Atomwaffen hervorbringen können. Aber KI kann leistungsfähigere KI hervorbringen, daher müssen wir schnell handeln, bevor die KI außer Kontrolle gerät.
In ähnlicher Weise müssen
Noch einmal: Ich spreche nicht davon, die Forschung zu künstlicher Intelligenz zu stoppen. Der erste Schritt besteht darin, die Veröffentlichung an die Öffentlichkeit zu stoppen. Sie können an Viren arbeiten, ohne sie an die Öffentlichkeit weiterzugeben. Sie können an künstlicher Intelligenz arbeiten, aber Ohne den Wettlauf um künstliche Intelligenz zu verlangsamen, werden wir nicht einmal Zeit haben, zu verstehen, was vor sich geht, geschweige denn diese unglaublich leistungsstarke Technologie effektiv zu regulieren.
Sie fragen sich vielleicht: Würde eine Verlangsamung des öffentlichen Einsatzes von KI nicht dazu führen, dass Demokratien hinter rücksichtslosere autoritäre Regime zurückfallen? Absolut nicht, ganz im Gegenteil. Der unregulierte Einsatz von KI wird dazu führen, dass Demokratien gegenüber autoritären Regimen den Kürzeren ziehen, denn wenn wir Chaos auslösen, können autoritäre Regime es leichter eindämmen als offene Gesellschaften. Demokratie ist im Wesentlichen ein öffentlicher Dialog, und der Dialog basiert auf Sprache. Wenn künstliche Intelligenz über Sprache verfügt, kann sie unsere Fähigkeit zu einem sinnvollen öffentlichen Dialog zerstören und dadurch
Wenn wir darauf warten, dass Chaos entsteht, wird es zu spät sein, es demokratisch zu bewältigen. Ohne eine rechtzeitige Regulierung der KI werden wir keine sinnvollen öffentlichen Gespräche mehr führen können. Zusammenfassend lässt sich sagen, dass wir im Wesentlichen auf der Erde gestoßen sind, nicht im Weltraum. Wir wissen wenig über sie, außer dass sie unsere Zivilisation zerstören könnten.
Deshalb sollte dieser unverantwortliche Einsatz in unserer Gesellschaft aufgedeckt und kontrolliert.
Es gibt viele regulatorische Maßnahmen, die wir vorschlagen könnten, aber meine oberste Empfehlung wäre, Wenn ich mit jemandem rede, weiß ich nicht, ob das so ist Eine Person oder eine künstliche Intelligenz, das ist das Ende der Demokratie, weil es das Ende eines sinnvollen öffentlichen Dialogs bedeutet.
Was halten Sie von der Rede, die Sie gerade gehört haben? Ich denke, einige von Ihnen sind möglicherweise beunruhigt, andere möglicherweise wütend auf die Unternehmen, die diese Technologien entwickeln, oder auf die Regierungen, die es versäumen, sie zu regulieren. Andere sind möglicherweise wütend auf mich und denken, ich übertreibe die Drohung oder führe die Öffentlichkeit in die Irre.
Rede , das Produkt mehrerer menschlicher Gedanken, aber können Sie sich da absolut sicher sein? Vor einem Jahr hätte nichts auf der Welt außer dem menschlichen Geist einen so komplexen und kraftvollen Text im öffentlichen Bereich erschaffen können. Aber das ist jetzt anders, und der Text, den Sie hören, könnte von nichtmenschlicher Intelligenz generiert worden sein. Nehmen Sie sich also ein wenig Zeit oder länger, um über dieses Thema nachzudenken, vielen Dank! Das Bild zu diesem Artikel ist ein Auszug aus dem Video von Yuval Hararis Rede. Das Video wurde offiziell vom Yuval Harari-Team zur Verfügung gestellt. Vielen Dank an Frau Chen Guangyu für ihre starke Unterstützung. Jede unbefugte Nutzung stellt eine Urheberrechtsverletzung dar. ·Interaktive Vorteile · Die „Eine kurze Geschichte der Menschheit“-Trilogie, geschrieben von Yuval Harari, einem israelischen Historiker, Philosophen und Bestsellerautor und Ph.D. der Universität Oxford. Das Vorwort zur neuen Ausgabe wurde vom Autor selbst verfasst, basiert auf der gegenwärtigen Situation und überdenkt das Schicksal der Menschheit neu. Glauben Sie, dass Menschen in Kombination mit dem chaotischen „Ein“-Denken in Zukunft durch KI ersetzt werden? Wie bewahren Menschen ihre Einzigartigkeit? Wir wählen aus allen Kommentaren zwei Leser aus, die jeweils einen Satz des Buches „Eine kurze Geschichte der Menschheitstrilogie“ erhalten. Bestseller-Gedenkausgabe zum 10-jährigen Jubiläum der Trilogie „Eine kurze Geschichte der Menschheit“
Das obige ist der detaillierte Inhalt vonYuval Hararis neueste Rede: Künstliche Intelligenz ist gerade in das Betriebssystem der menschlichen Zivilisation eingedrungen!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
Anwendung künstlicher Intelligenz im Leben
Was sind die Konfigurationsparameter des Videoservers?
Was ist das Grundkonzept der künstlichen Intelligenz?
Einführung in das Linux-Betriebssystem
Hauptanwendungen des Linux-Betriebssystems
Die Rolle des Linux-Betriebssystems
Was sind nicht relationale Datenbanken?
Welche Software ist Openal?
![[Web-Frontend] Node.js-Schnellstart](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
