OpenAI: Wir arbeiten daran, ChatGPT-Voreingenommenheit und schlechtes Verhalten zu reduzieren

Nachrichten vom 17. Februar: OpenAI, das KI-Forschungsunternehmen hinter dem beliebten Chatbot ChatGPT, sagte, dass es hart daran arbeite, Voreingenommenheit und schlechtes Verhalten im System zu reduzieren und Benutzern die Anpassung einiger Chatbots ermöglichen werde Verhaltensweisen. Zuvor gab es zahlreiche Berichte über unangemessene Interaktionen von ChatGPT mit Benutzern und fehlerhafte Ergebnisse.

OpenAI bestätigte in einem auf seiner Unternehmenswebsite veröffentlichten Blogbeitrag: „Seit der Einführung von ChatGPT haben Benutzer eine Reihe von Ergebnissen geteilt, die ihrer Meinung nach voreingenommen, beleidigend oder anderweitig anstößig sind. In vielen Fällen haben wir diese Bedenken unterstützt.“

Wir investieren in Forschung und Technik, um die offensichtlichen und subtilen Reaktionen von ChatGPT auf unterschiedliche Eingaben zu reduzieren. ChatGPT lehnt derzeit Ausgaben ab, die es nicht sollte, während es sie in anderen Fällen nicht ablehnt, wenn es sollte. „

Der Schritt von OpenAI ist eine Reaktion auf Bedenken, dass ChatGPT selbst voreingenommen ist, Berichte über ungenaue Ergebnisse und Fehlverhalten sowie allgemeine Kritik von Microsoft und Google über neue KI-Suchprodukte, die derzeit getestet werden. In einem am Mittwoch veröffentlichten Blogbeitrag hat Microsoft Berichten zufolge die Einschränkungen seines neuen Bing-Chat-Tools auf Basis der OpenAI-Technologie detailliert beschrieben, während Google seine Mitarbeiter gebeten hat, mehr Zeit für die manuelle Verbesserung der Antworten auf sein Bard-System aufzuwenden.

OpenAI sagte außerdem, dass das Unternehmen die Entwicklung von ChatGPT vorantreibt, einschließlich der Möglichkeit, jedem Benutzer eine begrenzte Anpassung an seinen Geschmack, Stil und seine Sichtweise zu ermöglichen.

OpenAI schrieb in einem Blogbeitrag: „Wir glauben, dass KI ein Werkzeug sein sollte, das für jeden nützlich ist, und daher sollte jeder in der Lage sein, es innerhalb der von der Gesellschaft vorgegebenen Grenzen anzupassen. Dies bedeutet, dass es anderen (einschließlich uns selbst) erlaubt wird. Das Finden der richtigen Balance bei der Ausweitung der Individualisierung kann zu böswilliger Nutzung unserer Technologie oder zur Schaffung einer „schleichenden KI“ führen, die die bestehenden Überzeugungen der Menschen blind verstärkt.

Das obige ist der detaillierte Inhalt vonOpenAI: Wir arbeiten daran, ChatGPT-Voreingenommenheit und schlechtes Verhalten zu reduzieren. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!