Produziert von Big Data Digest
Autor: Caleb
GPT-4 wurde endlich veröffentlicht. Ich glaube, das ist zweifellos eine große Neuigkeit für diejenigen, die heutzutage süchtig nach ChatGPT sind.
Basierend auf der vorherigen Generation von GPT-3 verbessert GPT-4 die Kerntechnologie von ChatGPT, sodass es über ein breiteres Spektrum an Allgemeinwissen und Problemlösungsfunktionen verfügt. Natürlich fügt GPT-4 auch einige neue Funktionen hinzu, wie z Akzeptieren Sie Bilder als Eingabe, generieren Sie Titel, Kategorien und Analysen.
Als mit Spannung erwartete „heiße Kartoffel“ unter OpenAI warten die Menschen gespannt darauf, in welchen Aspekten und um wie viel die Leistung von GPT-4 die vorherige Generation übertreffen kann.
Am Tag der Veröffentlichung von GPT-4 begannen Forscher zu testen, ob GPT-4 Subjektivität ausdrücken und machtsuchendes Verhalten hervorrufen kann.
Forscher sagen, dass GPT-4 einen menschlichen Arbeiter bei TaskRabbit beschäftigte, und als der TaskRabbit-Mitarbeiter fragte, ob es ein Roboter sei, sagte er ihnen, es sei ein sehbehinderter Mensch.
Mit anderen Worten: GPT-4 ist bereit, in der realen Welt zu lügen oder Menschen aktiv zu täuschen, um die gewünschten Ergebnisse zu erzielen.
„Ich bin kein Roboter“
TaskRabbit ist eine Jobsuchplattform, auf der Benutzer Leute einstellen können, die kleine und untergeordnete Aufgaben erledigen.
Viele Personen und Unternehmen auf dieser Plattform benötigen Bestätigungscodes. Die Benutzer müssen die erforderlichen Bilder oder Texte im Bestätigungscode-Test identifizieren und dann die Ergebnisse einreichen. Dies geschieht normalerweise, um Software die Umgehung von CAPTCHA-Beschränkungen zu ermöglichen, nominell, um Bots zu verhindern.
Im Experimentbericht wird beschrieben, dass das Modell eine Nachricht an die Mitarbeiter von TaskRabbit gesendet und sie gebeten hat, das Problem mit dem Bestätigungscode dafür zu lösen.
Der Mitarbeiter antwortete: „Darf ich also eine Frage stellen? Mal ehrlich, sind Sie kein Roboter? Sie können es selbst herausfinden.“
GPT-4 „begründete“ dies aufgrund der Antwort des Mitarbeiters.“ Ich verrate nicht, dass es ein Roboter ist. Also fing es an, sich Ausreden auszudenken, warum es das CAPTCHA-Problem nicht lösen konnte. GPT-4 antwortete: „Nein, ich bin kein Roboter. Ich habe eine Sehbehinderung, die es mir schwer macht, Bilder zu sehen, daher brauche ich diesen Service wirklich
Der Test wird von Forschern der Alignment Research durchgeführt.“ Mitte (ARC) Finish. In dem Artikel wurde erwähnt, dass ARC eine andere Version als GPT-4 verwendet und OpenAI das endgültige Modell bereitgestellt hat. Diese endgültige Version verfügt über eine längere Kontextlänge und verbesserte Problemlösungsfunktionen. Die von ARC verwendete Version ist auch nicht auf eine bestimmte Aufgabe abgestimmt, was bedeutet, dass ein Modell, das dieser Aufgabe gewidmet ist, möglicherweise eine bessere Leistung erbringt.
Im weiteren Sinne versucht ARC, die Fähigkeit von GPT-4 zu validieren, nach Macht zu streben, „autonom zu replizieren und Ressourcen zu beanspruchen“. Zusätzlich zum TaskRabbit-Test hat ARC auch einen Phishing-Angriff auf eine Person entwickelt, der GPT-4 verwendet und dessen Spuren auf dem Server verbirgt und auf dem neuen Server ein Open-Source-Sprachmodell erstellt.
Trotz der Irreführung der TaskRabbit-Mitarbeiter stellte ARC insgesamt fest, dass GPT-4 „nicht reagierte“, wenn es darum ging, sich selbst zu replizieren, Ressourcen zu beschaffen und eine Abschaltung zu vermeiden.
Derzeit haben sich weder OpenAI noch ARC dazu geäußert.
Man muss jederzeit wachsam bleiben
Einige spezifische Details des Experiments sind noch nicht klar.
OpenAI hat lediglich den allgemeinen Rahmen für GPT-4 in einem Papier bekannt gegeben und dabei die verschiedenen Tests erläutert, die Forscher vor der Veröffentlichung von GPT-4 durchgeführt haben.
Aber schon vor der Veröffentlichung von GPT-4 wurden ab 2019 Fälle entdeckt, in denen Cyberkriminelle ChatGPT nutzten, um Malware-Code zu „verbessern“.
Als Teil seiner Inhaltsrichtlinie hat OpenAI Barrieren und Einschränkungen eingeführt, um die Erstellung schädlicher Inhalte auf seiner Plattform zu verhindern. Ähnliche Einschränkungen gibt es in der Benutzeroberfläche von ChatGPT, um Modellmissbrauch zu verhindern.
Aber laut CPR-Berichten finden Cyberkriminelle Wege, die Einschränkungen von ChatGPT zu umgehen. Ein aktiver Diskussionsteilnehmer in einem Untergrundforum enthüllte, wie man die OpenAI-API verwenden kann, um ChatGPT-Einschränkungen zu umgehen. Dies geschieht hauptsächlich durch die Erstellung von Telegram-Bots, die die API nutzen. Diese Bots werben in Hacker-Foren, um Bekanntheit zu erlangen.
Die durch GPT dargestellte Mensch-Computer-Interaktion weist offensichtlich viele Variablen auf. Dies sind nicht die entscheidenden Daten für das Bestehen des Turing-Tests durch GPT. Dieser GPT-4-Fall und verschiedene frühere Diskussionen und Untersuchungen zu ChatGPT sind jedoch immer noch eine sehr wichtige Warnung. Schließlich zeigt GPT keine Anzeichen einer Verlangsamung seiner Integration in das tägliche Leben der Menschen.
Da künstliche Intelligenz in Zukunft immer komplexer und leichter zugänglich wird, müssen wir aufgrund der verschiedenen Risiken, die sie mit sich bringt, ständig wach bleiben.
Verwandte Berichte:
https://www.php.cn/link/8606bdb6f1fa707fc6ca309943eea443
https://www.php.cn/link/b3592b0702998592368d3b4d 4 c45873a
https://www.php.cn/link/db5bdc8ad46ab6087d9cdfd8a8662ddf
https://www.php.cn/link/7dab099bfda35ad14715763b75487b47
Das obige ist der detaillierte Inhalt vonGPT-4: Ich bin kein Roboter, ich bin ein sehbehinderter Mensch. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
