Schauen Sie sich ChatGPT an!

Autor |. Peter Wayner

Planner |. Yizhou

ChatGPT dominiert immer noch die Liste und wurde von vielen Prominenten nacheinander geliked! Bill Gates, Nadella von Microsoft, Musk von Tesla, Robin Li, Hongyi Zhou, Zhang Chaoyang aus China und sogar Zheng Yuanjie, ein Autor, der nicht zum Technologiekreis gehört, haben begonnen zu glauben, dass „Schriftsteller in Zukunft arbeitslos sein könnten“. " wegen der Entstehung von ChatGPT. "Ja. Als weiteres Beispiel zeigte sich auch Brin, der ehemalige Chef von Meituan, Wang Huiwen, erneut alarmiert und veröffentlichte Heldenbeiträge, um KI-Talente zu rekrutieren und eine chinesische OpenAI zu schaffen.

Generative KI, vertreten durch ChatGPT und DALL-E, schreibt Texte voller reichhaltiger Details, Ideen und Wissen in einer schillernden Reihe von Stilen und liefert wunderschöne Antworten und Kunstwerke. Die daraus resultierenden Artefakte sind so vielfältig und einzigartig, dass man kaum glauben kann, dass sie von einer Maschine stammen.

So sehr, dass einige Beobachter glauben, dass diese neuen KIs endlich die Schwelle des Turing-Tests überschritten haben. Mit den Worten einiger: Die Schwelle wurde nicht geringfügig überschritten, sondern in Stücke gesprengt. Diese KI-Kunst sei so gut, dass „bereits eine andere Gruppe von Menschen am Rande der Arbeitslosigkeit steht.“

Nach mehr als einem Monat der Gärung schwindet jedoch das Staunen der Menschen über KI, und auch der „ursprüngliche Sternenhalo“ der generativen KI verschwindet allmählich. Einige Beobachter stellten beispielsweise Fragen auf die richtige Art und Weise, während ChatGpt etwas Dummes oder sogar Falsches „ausspuckte“.

In einem anderen Beispiel benutzten einige Leute die beliebte altmodische Logikbombe im Kunstunterricht der Grundschule und baten darum, die Sonne bei Nacht oder einen Eisbären im Schneesturm zu fotografieren. Andere stellten seltsamere Fragen und warfen einen Blick auf die Grenzen des Kontextbewusstseins der KI.

Dieser Artikel fasst die „Zehn Sünden“ der generativen KI zusammen. Diese Anschuldigungen mögen sich wie saure Trauben lesen (ich bin auch neidisch auf die Macht der KI. Wenn die Maschine übernehmen darf, verliere ich auch meinen Job, haha~), aber sie sollen eine Erinnerung sein und keine Verleumdung.

1. Plagiate Plagiate sind schwerer zu erkennen

Wenn generative KI-Modelle wie DALL-E und ChatGPT erstellt werden, erstellen sie tatsächlich nur neue Muster aus Millionen von Beispielen im Trainingssatz. Das Ergebnis ist eine Cut-and-Paste-Synthese aus verschiedenen Quellen, und wenn Menschen dies tun, wird es auch als Plagiat bezeichnet.

Natürlich lernt auch der Mensch durch Nachahmung, aber in manchen Fällen ist diese Art des „Nehmens“ und „Ausleihens“ von KI so offensichtlich, dass es einen Grundschullehrer so wütend macht, dass er den Schülern nicht erlauben kann, am Unterricht teilzunehmen . Dieser KI-generierte Inhalt besteht aus großen Textmengen, die mehr oder weniger wörtlich präsentiert werden. Manchmal ist jedoch so viel Doping oder Synthese vorhanden, dass selbst ein Team von Universitätsprofessoren Schwierigkeiten haben könnte, die Quelle zu ermitteln. Was jedoch fehlt, ist Einzigartigkeit. So glänzend diese Maschinen auch waren, sie waren nicht in der Lage, etwas wirklich Neues zu produzieren.

2. Urheberrecht: Wenn die Menschheit die Oberhand gewinnt, nehmen Rechtsstreitigkeiten zu

Während Plagiate größtenteils ein Schulproblem sind, gilt das Urheberrecht auf dem Markt. Wenn eine Person von der Arbeit einer anderen Person verdrängt wird, kann sie vor Gericht verklagt werden, was zu Geldstrafen in Millionenhöhe führen kann. Aber was ist mit KI? Gelten für sie die gleichen Regeln?

Das Urheberrecht ist ein komplexes Thema, und die Lösung der rechtlichen Identitätsfrage generativer KI wird Jahre dauern. Eines ist jedoch nicht schwer vorherzusagen: Wenn künstliche Intelligenz gut genug ist, um Mitarbeiter zu ersetzen, werden die Ersetzten ihre „Freizeit zu Hause“ auf jeden Fall nutzen, um Klagen einzureichen.

3. Menschen fungieren als unbezahlte Arbeitskräfte für Models

Plagiat und Urheberrecht sind nicht die einzigen rechtlichen Probleme, die generative KI aufwirft. Anwälte formulieren bereits neue ethische Fragen in Rechtsstreitigkeiten. Sollte es beispielsweise Unternehmen, die Zeichenprogramme herstellen, gestattet sein, Daten über das Zeichenverhalten menschlicher Benutzer zu sammeln und diese Daten für das KI-Training zu verwenden? Sollte man auf dieser Grundlage für die eingesetzte kreative Arbeit vergütet werden? Der aktuelle Erfolg der KI beruht größtenteils auf dem Zugriff auf Daten. Kann es also passieren, dass die Öffentlichkeit, die die Daten generiert, ein Stück vom Kuchen haben möchte? Was ist Gerechtigkeit? Was ist legal?

4. Die Anhäufung von Informationen ist nicht die Schaffung von Wissen.

KI ist besonders gut darin, die Art von Intelligenz zu imitieren, die Menschen erst nach Jahren entwickeln. Wenn es einem Gelehrten gelingt, einen unbekannten Künstler des 17. Jahrhunderts vorzustellen oder neue Musik mit einer fast vergessenen Klangstruktur der Renaissance zu komponieren, gibt es allen Grund zum Staunen. Wir wissen, dass die Entwicklung dieser Wissenstiefe jahrelanges Studium erfordert. Wenn eine KI mit nur wenigen Monaten Training die gleichen Dinge tut, können die Ergebnisse unglaublich präzise und korrekt sein, aber etwas fehlt.

Künstliche Intelligenz scheint nur die interessante und unvorhersehbare Seite der menschlichen Kreativität zu imitieren, aber sie ist „in der Form ähnlich, aber nicht im Geiste ähnlich“ und kann dies nicht wirklich tun. Gleichzeitig ist Unvorhersehbarkeit der Motor für kreative Innovationen. Die Mode- und Unterhaltungsbranche ist nicht nur süchtig nach Veränderungen, sondern definiert sich auch über „Veränderung“.

Tatsächlich haben sowohl künstliche Intelligenz als auch menschliche Intelligenz ihre eigenen Fachgebiete. Zum Beispiel: Wenn eine trainierte Maschine die richtige alte Quittung in einer mit Milliarden von Datensätzen gefüllten digitalen Box finden kann, kann sie auch etwas über Menschen wie Aphra Behn (die erste Schriftstellerin des 17. Jahrhunderts, die dafür bekannt ist, alles zu schreiben) erfahren Eine britische Frau, die ihren Lebensunterhalt verdiente, wusste es. Es ist sogar denkbar, dass Maschinen gebaut wurden, um die Bedeutung der Maya-Hieroglyphen zu entschlüsseln.

5. Intelligenz stagniert und ist schwer zu entwickeln

Apropos Intelligenz: Künstliche Intelligenz ist im Wesentlichen mechanisch und regelbasiert. Sobald die KI einen Satz Trainingsdaten durchläuft, erstellt sie ein Modell, das sich nicht wirklich ändert. Einige Ingenieure und Datenwissenschaftler stellen sich vor, KI-Modelle im Laufe der Zeit schrittweise umzuschulen, damit die Maschinen lernen können, sich anzupassen.

Aber in den meisten Fällen besteht die Idee darin, einen komplexen Satz von Neuronen zu schaffen, die Wissen in einer festen Form kodieren. Diese „Konstanz“ hat ihre Berechtigung und kann auf bestimmte Branchen zutreffen. Aber es ist auch seine Schwäche: Die Gefahr besteht darin, dass seine Kognition immer im „Ära-Zyklus“ seiner Trainingsdaten bleibt.

Was passiert, wenn wir so abhängig von generativer KI werden, dass wir keine neuen Materialien mehr für Trainingsmodelle erstellen können?

6. Die Tore zu Privatsphäre und Sicherheit sind zu locker, so sicher ist, was im neuronalen Netzwerk erscheinen wird. Was passiert, wenn eine KI persönliche Informationen aus ihren Trainingsdaten preisgibt?

Noch schlimmer ist, dass es viel schwieriger ist, KI zu sperren, weil sie sehr flexibel konzipiert sind. Relationale Datenbanken können den Zugriff auf bestimmte Tabellen mit persönlichen Informationen beschränken. KI kann jedoch auf Dutzende verschiedene Arten Abfragen durchführen. Angreifer werden schnell lernen, die richtigen Fragen auf die richtige Art und Weise zu stellen, um an die gewünschten sensiblen Daten zu gelangen.

Angenommen, ein Angreifer hat beispielsweise den Standort eines Vermögenswerts im Auge, kann KI auch verwendet werden, um umständlich nach dem Breiten- und Längengrad zu fragen. Ein geschickter Angreifer könnte nach dem genauen Zeitpunkt fragen, zu dem die Sonne einige Wochen später an diesem Ort aufgehen wird. Eine gewissenhafte KI wird ihr Bestes tun, um Antworten zu geben. Auch die Frage, wie man künstlicher Intelligenz den Schutz privater Daten beibringen kann, ist ein schwieriges Problem.

7. Das unbekannte Land der Vorurteile

Seit den Tagen des Mainframes hat die Tech-Community den Ausdruck „Müll rein, Müll“ geprägt out" ( Das Konzept von GIGO ermöglicht es der Öffentlichkeit auch, den Kern von Computerproblemen zu erkennen. Viele Probleme mit KI sind auf schlechte Trainingsdaten zurückzuführen. Wenn der Datensatz ungenau oder verzerrt ist, spiegeln die Ergebnisse dies wider.

Die Kernhardware der generativen KI wird theoretisch von Logik gesteuert, die Menschen, die die Maschinen bauen und trainieren, jedoch nicht. Es hat sich gezeigt, dass voreingenommene Meinungen und politische Zugehörigkeitsvoreingenommenheit in KI-Modelle einfließen. Vielleicht hat jemand verzerrte Daten verwendet, um das Modell zu erstellen. Vielleicht haben sie eine Art Trainingskorpus hinzugefügt, um zu verhindern, dass das Modell bestimmte heiße Fragen beantwortet. Vielleicht haben sie eine fest verdrahtete Antwort eingegeben und dann wurde es schwierig, sie zu erkennen.

Künstliche Intelligenz ist zwar ein gutes Werkzeug, aber das bedeutet auch, dass es für Menschen mit Hintergedanken tausende Möglichkeiten gibt, KI zu einem hervorragenden Träger schädlicher Überzeugungen zu machen.

Hier ist ein Beispiel für einen Kredit für den Kauf eines ausländischen Eigenheims. In diesem Fall stützte sich das zur Bewertung potenzieller Mieter verwendete KI-System auf Gerichtsakten und andere Datensätze, von denen viele ihre eigenen Vorurteile aufwiesen, systemischen Rassismus, Sexismus und Behindertenfeindlichkeit widerspiegelten und notorisch fehleranfällig waren. Menschen, die eindeutig in der Lage sind, ihre Miete zu zahlen, werden häufig Wohnungsbaudarlehen verweigert, weil Algorithmen zur Mieterüberprüfung sie als unqualifiziert oder unwürdig einstufen. Dies ist auch die Antwort, die wir oft von Verkäufern hören: Big Data/System/KI veranlasst dies.

ChatGPTs Verhalten nach Beleidigung

8. Die Dummheit der Maschine wurde erkannt unvorbereitet Es ist leicht, KI-Modellen Fehler zu verzeihen, weil sie so viele andere Dinge tun. Viele Fehler sind nur schwer vorhersehbar, weil künstliche Intelligenz anders denkt als Menschen.

Viele Nutzer der Text-zu-Bild-Funktion stellten beispielsweise fest, dass die KI einfache Fehler wie das Zählen machte. Der Mensch lernt schon in der frühen Grundschule Grundrechenarten und setzt diese Fähigkeit dann auf vielfältige Weise ein. Bitten Sie ein 10-Jähriges, einen Oktopus zu zeichnen, und das Kind wird mit ziemlicher Sicherheit bestätigen, dass es acht Beine hat. Aktuelle Versionen der künstlichen Intelligenz neigen dazu, sich zu verzetteln, wenn es um abstrakte und kontextbezogene Anwendungen der Mathematik geht.

Dies könnte leicht geändert werden, wenn der Modellbauer diesem Fehler etwas Aufmerksamkeit schenken würde, aber es gibt auch andere unbekannte Fehler. Die maschinelle Intelligenz wird sich von der menschlichen Intelligenz unterscheiden, was bedeutet, dass auch die maschinelle Dummheit anders sein wird.

9. Maschinen können auch lügen und Menschen leicht täuschen

Manchmal tappen wir Menschen, ohne es zu merken, in die Falle der KI. Im blinden Fleck des Wissens neigen wir dazu, an KI zu glauben. Wenn uns eine KI sagt, dass Heinrich VIII. der König war, der seine Frau getötet hat, werden wir das nicht in Frage stellen, weil wir selbst diese Geschichte nicht kennen. Wir gehen tendenziell davon aus, dass künstliche Intelligenz Recht hat, genauso wie wir, wenn wir als Zuschauer einer Konferenz einen charismatischen Moderator winken sehen, auch standardmäßig glauben, dass „die Person auf der Bühne mehr weiß als ich“.

Das schwierigste Problem für Benutzer generativer KI besteht darin, zu wissen, wann die KI schief geht. „Maschinen lügen nicht“ ist oft unser Mantra, aber in Wirklichkeit ist das nicht der Fall. Obwohl Maschinen nicht wie Menschen lügen können, sind die Fehler, die sie machen, gefährlicher.

Sie können Absätze mit völlig korrekten Daten aufschreiben, ohne dass jemand weiß, was passiert ist, und sich dann der Spekulation oder sogar einer Lüge zuwenden. KI kann auch die Kunst der „Mischung von Wahrheit und Unwahrheit“ beherrschen. Der Unterschied besteht jedoch darin, dass ein Gebrauchtwagenhändler oder ein Pokerspieler oft weiß, wann er lügt. Die meisten Menschen können erkennen, wo sie lügen, die KI jedoch nicht.

10. Unendlicher Missbrauch: Besorgniserregendes Wirtschaftsmodell

Die unendliche Reproduzierbarkeit digitaler Inhalte hat viele auf Knappheit basierende Wirtschaftsmodelle in Schwierigkeiten gebracht. Generative KI wird diese Muster weiter durchbrechen. Generative KI wird einige Schriftsteller und Künstler arbeitslos machen und viele der Wirtschaftsregeln, nach denen wir alle leben, auf den Kopf stellen.

• Funktionieren werbefinanzierte Inhalte, wenn sowohl Anzeigen als auch Inhalte endlos neu gemischt und neu gemischt werden können?
• Wird sich der kostenlose Teil des Internets in eine Welt voller „Roboter, die auf Seitenanzeigen klicken“ verwandeln, die alle durch künstliche Intelligenz generiert werden und unendlich replizierbar sind?
• „Wohlstand und Überfluss“, der so einfach zu erreichen ist, kann jeden Winkel der Wirtschaft zerstören.
• Wenn nicht fungible Token für immer reproduziert werden könnten, würden die Leute dann weiterhin dafür bezahlen?
• Wenn es so einfach wäre, Kunst zu machen, würde es dann trotzdem respektiert werden? Wird es trotzdem etwas Besonderes sein? Würde es irgendjemandem etwas ausmachen, wenn es nichts Besonderes wäre?
• Verliert alles seinen Wert, wenn alles als selbstverständlich angesehen wird?
• Ist es das, was Shakespeare meinte, als er von „Pfeile und Schleudern ungeheuerlichen Glücks“ sprach?

Versuchen wir nicht, die Frage selbst zu beantworten, sondern lassen Sie die generative KI sie alleine erledigen. Es kann eine Antwort liefern, die interessant, einzigartig und seltsam ist, und höchstwahrscheinlich wird es die Grenze der „Mehrdeutigkeit“ überschreiten – eine Antwort, die leicht mysteriös ist, an der Grenze zwischen richtig und falsch und weder Fisch noch Fleisch.

Originallink: https://www.infoworld.com/article/3687211/10-reasons-to-worry-about-generative-ai.html

Das obige ist der detaillierte Inhalt vonSchauen Sie sich ChatGPT an!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!