Gen Chen: KI-Gurus verkünden gemeinsam „Warnung vor KI-Ausrottung der Menschheit'

Text/Chen Gen

Kürzlich hat das Center for AI Safety (CAIS) eine „Risikoerklärung zur künstlichen Intelligenz“ veröffentlicht, die von 350 Wissenschaftlern und Führungskräften aus der Wirtschaft auf dem Gebiet der künstlichen Intelligenz unterzeichnet wurde. Das Risiko des Aussterbens sollte neben anderen Risiken auf gesellschaftlicher Ebene eine globale Priorität sein wie Epidemien und Atomkrieg.“

Diese öffentliche Erklärung vereint die Meinungen der maßgeblichsten Experten für künstliche Intelligenz, Nuklearwissenschaftler, Epidemiologen und anderer Experten und Wissenschaftler der heutigen Welt. Man kann sagen, dass die Risiken, die künstliche Intelligenz mit sich bringt, auf die umfassendste Weise geklärt wurden . Zu den Unterzeichnern gehören drei Führungskräfte von KI-Unternehmen: OpenAI-CEO Sam Altman, DeepMind-CEO Demis Hassabis und Anthropic-CEO Dario Amodei; außerdem gehört Jeff, bekannt als der Pate der KI, Ray Hinton, zusammen mit Joshua Bengio, einem der „Großen Drei“ von AI und Gewinner des Turing Award; ebenfalls unterzeichneten den offenen Brief zwei chinesische Wissenschaftler, das Institut für Automatisierung der Chinesischen Akademie der Wissenschaften, Ethik der künstlichen Intelligenz mit Zeng Yi, Direktor des Governance Research Center, und Zhan Xianyuan, Assistenzforscher am Tsinghua Forschungsinstitut für intelligente Industrie.

Theorie der Bedrohung durch künstliche Intelligenz

Die Entwicklung der Technologie der künstlichen Intelligenz spielt eine Rolle bei der Förderung des Fortschritts der Sozialwissenschaften und Technologie. Doch während die künstliche Intelligenz bahnbrechende Fortschritte gemacht hat, werden ihre negativen Auswirkungen und ihr psychologischer Druck auf den Menschen immer deutlicher. Beispielsweise nutzen immer mehr Studenten künstliche Intelligenz, um Hausaufgaben und Hausarbeiten zu schreiben, was die Definition von Plagiaten erschwert; Kriminelle nutzen sie, um neue Hacking-Methoden zu entwickeln, um sensible Daten zu Erpressungszwecken zu stehlen.

Künstliche Intelligenz wird auch einen großen Einfluss auf die Arbeitsweise des Menschen haben. Schätzungen zufolge müssen bis 2030 75 bis 375 Millionen Menschen wieder einen Arbeitsplatz finden. Dies wird nicht nur beispiellose Auswirkungen auf die Wirtschaft haben, sondern auch einen beispiellosen Druck auf die Psyche der Menschen ausüben. Berichten zufolge glauben 61 % der Befragten in den USA, dass künstliche Intelligenz die Zukunft der Menschheit bedroht. Als Jeffrey Hinton gefragt wurde: „Was ist Ihrer Meinung nach das schlimmste Szenario, das man sich vorstellen kann“, antwortete er: „Es ist durchaus denkbar, dass der Mensch nur ein Übergangsstadium in der Entwicklung der Intelligenz ist

.“

Betrachten Sie die Vor- und Nachteile der Entwicklung künstlicher Intelligenz rational

Wenn immer mehr Menschen glauben, dass „künstliche Intelligenz potenziell schlauer sein wird als wir“, sind weit verbreitete Bedenken hinsichtlich der unkontrollierten Entwicklung der Technologie der künstlichen Intelligenz nicht unbegründet. Obwohl der Großteil der hochmodernen künstlichen Intelligenz, die ChatGPT repräsentiert, immer noch repliziert und auf der Grundlage der Muster in den Trainingsdaten lernt, kann man sagen, dass seine Lernfähigkeit und Wachstumsrate „sprunghaft voranschreitet“, was nicht ausreichend ist, um es zu beschreiben seine rasante Entwicklung.

Immer mehr Gesetzgeber, Interessengruppen und Insider der Technologiebranche warnen vor dem Potenzial von KI-Chatbots, Fehlinformationen zu verbreiten und menschliche Arbeitsplätze zu ersetzen. Dan Hendrycks, Direktor des Center for AI Safety, wies sogar darauf hin, dass die gesamte Gesellschaft auch zusammenarbeiten sollte, um andere Arten von KI-Risiken wie Algorithmenverzerrungen oder irreführende Informationen zu lösen. Natürlich wäre es in diesem Risikomanagementprozess leichtsinnig, sich nur auf unmittelbare Gefahren zu konzentrieren, und es wäre ebenso leichtsinnig, sie zu ignorieren. Denn wie andere neue Dinge birgt auch die rasante Popularisierung künstlicher Intelligenz Chancen und Risiken. Während die Menschen die Vorteile nutzen, müssen sie sich auch vor den möglichen Risiken in Acht nehmen. Solange man es gut nutzt und sich vor Risiken hütet, kann man es „für mich nutzen“.

Das obige ist der detaillierte Inhalt vonGen Chen: KI-Gurus verkünden gemeinsam „Warnung vor KI-Ausrottung der Menschheit'. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!