GPT-4 gibt Anlass zur Sorge, und Tausende von Technologieexperten, darunter Musk, fordern ein Moratorium für eine stärkere KI-Entwicklung

Neuigkeiten vom 29. März, dem Dialogmodell für künstliche Intelligenz der amerikanischen OpenAI Das Unternehmen ChatGPT hat weltweite Aufmerksamkeit erregt, und Microsoft, der Hauptinvestor des Unternehmens, hat damit begonnen, die Auswirkungen des neuesten Modells dahinter, GPT-4, auf die zukünftige Menschheit zu bewerten. GPT-4 ist ein großes multimodales Modell, das eine menschenähnliche Sprache erzeugen kann. Es hat bei einer Vielzahl professioneller und akademischer Standardtests gezeigt, dass es die simulierte Anwaltsprüfung bestehen und unter den Besten punkten kann Innerhalb von 10 %.

Allerdings birgt GPT-4 auch einige potenzielle Risiken, die negative Auswirkungen auf die Gesellschaft und den Menschen haben können. Tesla-Gründer Elon Musk und mehr als tausend Experten für künstliche Intelligenz und Branchenführer haben in einem offenen Brief ein sechsmonatiges Moratorium für die Entwicklung leistungsfähigerer Systeme als GPT-4 gefordert, bis ein gemeinsamer Satz von Sicherheitsprotokollen vorliegt und von unabhängigen Experten geprüft wird. Sie verwiesen auch auf die wirtschaftliche und politische Instabilität, die fortschrittliche KI-Systeme verursachen könnten, und forderten Entwickler auf, mit politischen Entscheidungsträgern zusammenzuarbeiten, um Regulierungsbehörden einzurichten.

Der Brief wurde vom gemeinnützigen Future of Life Institute veröffentlicht und umfasste Musk, Apple-Mitbegründer Steve Wozniak und Stability AI-CEO Emma. Mehr als 1.000 Menschen haben ihn unterzeichnet, darunter auch De Mostak.

In dem Brief heißt es: „Leistungsfähige Systeme der künstlichen Intelligenz sollten nur dann entwickelt werden, wenn wir davon überzeugt sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind.“

Darüber hinaus die europäische Polizei Die Agentur Europol äußerte am Montag außerdem ethische und rechtliche Bedenken hinsichtlich fortschrittlicher künstlicher Intelligenz wie ChatGPT und warnte davor, dass solche Systeme für Phishing, Desinformation und Cyberkriminalität missbraucht werden könnten. Seit seiner Veröffentlichung im letzten Jahr hat das von Microsoft unterstützte ChatGPT von OpenAI Konkurrenten dazu veranlasst, ähnliche Produkte auf den Markt zu bringen, und viele Unternehmen haben es oder eine ähnliche Technologie in ihre Apps und Produkte integriert.

Laut IT House gab OpenAI zuvor an, dass sie sechs Monate damit verbracht haben, GPT-4 iterativ anzupassen, um es sachlich und kontrollierbar zu machen und über den Sicherheitsbereich hinaus die besten Ergebnisse zu erzielen (wenn auch noch nicht perfekt). .

Das obige ist der detaillierte Inhalt vonGPT-4 gibt Anlass zur Sorge, und Tausende von Technologieexperten, darunter Musk, fordern ein Moratorium für eine stärkere KI-Entwicklung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!