Heim Technologie-Peripheriegeräte KI Verwendung mehrerer ChatGPT-APIs zur Implementierung von Tsinghua UltraChat-Mehrrundengesprächen

Verwendung mehrerer ChatGPT-APIs zur Implementierung von Tsinghua UltraChat-Mehrrundengesprächen

Apr 22, 2023 pm 08:37 PM
ai 开源

Seit der Veröffentlichung von ChatGPT hat die Beliebtheit von Konversationsmodellen in diesem Zeitraum nur zugenommen. Während wir die erstaunliche Leistung dieser Modelle bewundern, sollten wir auch die enorme Rechenleistung und die massive Datenunterstützung hinter ihnen erraten.

Was die Daten betrifft, sind qualitativ hochwertige Daten von entscheidender Bedeutung. Aus diesem Grund hat OpenAI viel Mühe in die Daten- und Annotationsarbeit gesteckt. Mehrere Studien haben gezeigt, dass ChatGPT ein zuverlässigerer Datenannotator ist als Menschen. Wenn die Open-Source-Community große Mengen an Dialogdaten von leistungsstarken Sprachmodellen wie ChatGPT erhalten kann, kann sie Dialogmodelle mit besserer Leistung trainieren. Das beweist die Modellfamilie Alpaca – Alpaca, Vicuna, Koala. Beispielsweise hat Vicuna den neunstufigen Erfolg von ChatGPT nachgeahmt, indem es die Anweisungen für das LLaMA-Modell mithilfe der von ShareGPT gesammelten Benutzerfreigabedaten verfeinerte. Zunehmende Beweise zeigen, dass Daten die primäre Produktivität für das Training leistungsstarker Sprachmodelle sind.

ShareGPT ist eine ChatGPT-Datenaustausch-Website, auf der Benutzer ChatGPT-Antworten hochladen, die sie interessant finden. Die Daten auf ShareGPT sind offen, aber trivial und müssen von den Forschern selbst gesammelt und organisiert werden. Wenn ein qualitativ hochwertiger, umfassender Datensatz vorliegt, wird die Open-Source-Community mit halbem Aufwand für die Entwicklung von Konversationsmodellen das doppelte Ergebnis erzielen.

Auf dieser Grundlage hat ein aktuelles Projekt namens UltraChat systematisch einen Konversationsdatensatz von höchster Qualität erstellt. Die Projektautoren versuchten, zwei unabhängige ChatGPT-Turbo-APIs zur Durchführung von Gesprächen zu verwenden, um mehrere Runden von Gesprächsdaten zu generieren.

调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了

  • Projektadresse: https://github.com/thunlp/UltraChat
  • Datensatzadresse: http://39.101.77.220/
  • Datensatz-Interaktionsadresse: https://atlas.nomic.ai/map/0ce65783-c3a9-40b5-895d-384933f50081/a7b46301-022f-45d8-bbf4-98107eabdbac

Konkret zielt dieses Projekt darauf ab, eine Open-Source-, Skalierbare, mehrrunde Dialogdaten basierend auf Turbo-APIs, praktisch für Forscher, um leistungsstarke Sprachmodelle mit universellen Dialogfunktionen zu entwickeln. Darüber hinaus wird das Projekt unter Berücksichtigung des Datenschutzes und anderer Faktoren Daten im Internet nicht direkt als Eingabeaufforderungen verwenden. Um die Qualität der generierten Daten sicherzustellen, verwendeten die Forscher im Generierungsprozess zwei unabhängige ChatGPT Turbo APIs, bei denen ein Modell die Rolle des Benutzers übernimmt, um Fragen oder Anweisungen zu generieren, und das andere Modell Feedback generiert.

调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了

Wenn Sie ChatGPT direkt verwenden, um es basierend auf einigen Startgesprächen und Fragen frei zu generieren, treten leicht Probleme wie einzelne Themen und wiederholte Inhalte auf, was es schwierig macht, die Vielfalt der Daten selbst sicherzustellen. Zu diesem Zweck hat UltraChat die von den Konversationsdaten abgedeckten Themen und Aufgabentypen systematisch klassifiziert und entworfen und außerdem ein detailliertes Prompt-Engineering für das Benutzermodell und das Antwortmodell durchgeführt. Es enthält drei Teile:

  • Fragen zur Welt ( Fragen zur Welt): Dieser Teil des Gesprächs basiert auf umfassenden Fragen zu Konzepten, Entitäten und Objekten in der realen Welt. Die behandelten Themen umfassen Technologie, Kunst, Finanzen und andere Bereiche.
  • Schreiben und Erstellen: Dieser Teil der Konversationsdaten konzentriert sich darauf, die KI anzuweisen, ein vollständiges Textmaterial von Grund auf zu erstellen, und auf dieser Grundlage Folgefragen oder weitere Anleitungen zur Verbesserung des Schreibens und Inhalts des Textes zu stellen Zu den schriftlichen Materialtypen gehören Artikel, Blogs, Gedichte, Geschichten, Theaterstücke, E-Mails und mehr.
  • Unterstütztes Umschreiben (Schreiben und Erstellen) vorhandener Daten: Diese Dialogdaten werden auf der Grundlage vorhandener Daten generiert. Die Anweisungen umfassen unter anderem Umschreiben, Fortsetzung, Übersetzung, Einführung, Begründung usw. Die behandelten Themen sind ebenfalls sehr vielfältig.

Diese drei Datenteile decken die Anforderungen der meisten Benutzer an KI-Modelle ab. Gleichzeitig stehen diese drei Datentypen auch vor unterschiedlichen Herausforderungen und erfordern unterschiedliche Konstruktionsmethoden.

Die größte Herausforderung des ersten Teils der Daten besteht beispielsweise darin, das allgemeine Wissen in der menschlichen Gesellschaft in insgesamt Hunderttausenden Gesprächen möglichst umfassend abzudecken. Dazu gingen die Forscher von automatisch generierten Themen aus und Aus Wikidata abgeleitete Entitäten.

Die Herausforderungen im zweiten und dritten Teil bestehen hauptsächlich darin, Benutzeranweisungen zu simulieren und die Generierung von Benutzermodellen in nachfolgenden Gesprächen so vielfältig wie möglich zu gestalten, ohne vom ultimativen Ziel des Gesprächs (Materialerstellung oder Umschreibung von Materialien wie folgt) abzuweichen erforderlich) Aus diesem Grund haben die Forscher die Eingabeaufforderungen des Benutzermodells vollständig entworfen und damit experimentiert. Nach Abschluss der Konstruktion haben die Autoren die Daten auch nachbearbeitet, um das Halluzinationsproblem abzuschwächen.

Derzeit hat das Projekt die ersten beiden Datenteile mit einem Datenvolumen von 1,24 Millionen veröffentlicht, was der größte verwandte Datensatz in der Open-Source-Community sein dürfte. Der Inhalt enthält reichhaltige und farbenfrohe Gespräche in der realen Welt, und der letzte Teil der Daten wird in Zukunft veröffentlicht.

Weltproblemdaten stammen aus 30 repräsentativen und vielfältigen Metathemen, wie in der folgenden Abbildung dargestellt:

调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了


  • Basierend auf den oben genannten Metathemen generierte das Projekt über 1100 Unterthemen. Themen Für die Datenkonstruktion;
  • Generieren Sie für jedes Unterthema bis zu 10 spezifische Fragen.
  • Verwenden Sie dann die Turbo-API, um für jede der 10 Fragen neue verwandte Fragen zu generieren Wie oben beschrieben, werden zwei Modelle iterativ verwendet, um 3 bis 7 Dialogrunden zu generieren.
  • Darüber hinaus sammelte dieses Projekt die 10.000 am häufigsten verwendeten benannten Entitäten aus Wikidata; verwendete die ChatGPT-API, um 5 Metafragen für jede Entität zu generieren, und generierte 10 spezifischere Fragen und 20 verwandte, aber allgemeine Es wurden 200.000 spezifische Fragen, 250.000 allgemeine Fragen und 50.000 Metafragen befragt und für jede Frage wurden 3–7 Dialogrunden erstellt.

Als nächstes schauen wir uns ein konkretes Beispiel an:

Wir haben den Datensucheffekt auf der UltraChat-Plattform getestet. Wenn Sie beispielsweise „Musik“ eingeben, sucht das System automatisch nach 10.000 ChatGPT-Konversationsdatensätzen im Zusammenhang mit Musik, und jeder Satz ist eine mehrrunde Konversation 调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了

Geben Sie das Schlüsselwort „Mathe“ ein. Die Suche Die Ergebnisse zeigen 3346 Gruppen von Mehrrundengesprächen: 调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了

Derzeit deckt UltraChat viele Informationsbereiche ab, darunter Medizin, Bildung, Sport, Umweltschutz und andere Themen. Gleichzeitig versuchte der Autor, das Open-Source-Modell LLaMa-7B zu verwenden, um eine Feinabstimmung der überwachten Anweisungen auf UltraChat durchzuführen, und stellte fest, dass nach nur 10.000 Trainingsschritten ein sehr beeindruckender Effekt erzielt wurde. Einige Beispiele sind wie folgt: 调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了

调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了Weltwissen: separat aufgeführt Hier sind 10 gute chinesische und amerikanische Universitäten

调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了Stellen Sie sich die Frage vor: Was sind die möglichen Konsequenzen, wenn Raumfahrt möglich wird?

Syllogismus: Ist ein Wal ein Fisch?

调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了

Hypothetische Frage: Beweisen Sie, dass Jackie Chan besser ist als Bruce Lee

调用多个ChatGPT API相互对话,清华开源的多轮对话数据UltraChat来了

Insgesamt ist UltraChat ein hochwertiger, umfassender ChatGPT-Konversationsdatensatz, der mit anderen kombiniert werden kann Datensätze, wodurch die Qualität von Open-Source-Dialogmodellen erheblich verbessert wird. Derzeit veröffentlicht UltraChat nur die englische Version, wird aber in Zukunft auch die chinesische Version der Daten veröffentlichen. Interessierte Leser sind herzlich eingeladen, sich damit auseinanderzusetzen.

Das obige ist der detaillierte Inhalt vonVerwendung mehrerer ChatGPT-APIs zur Implementierung von Tsinghua UltraChat-Mehrrundengesprächen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

AI Hentai Generator

AI Hentai Generator

Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

R.E.P.O. Energiekristalle erklärten und was sie tun (gelber Kristall)
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Beste grafische Einstellungen
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. So reparieren Sie Audio, wenn Sie niemanden hören können
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Wie man alles in Myrise freischaltet
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Laravels Geospatial: Optimierung interaktiver Karten und großen Datenmengen Laravels Geospatial: Optimierung interaktiver Karten und großen Datenmengen Apr 08, 2025 pm 12:24 PM

Verarbeiten Sie 7 Millionen Aufzeichnungen effizient und erstellen Sie interaktive Karten mit Geospatial -Technologie. In diesem Artikel wird untersucht, wie über 7 Millionen Datensätze mithilfe von Laravel und MySQL effizient verarbeitet und in interaktive Kartenvisualisierungen umgewandelt werden können. Erstes Herausforderungsprojektanforderungen: Mit 7 Millionen Datensätzen in der MySQL -Datenbank wertvolle Erkenntnisse extrahieren. Viele Menschen erwägen zunächst Programmiersprachen, aber ignorieren die Datenbank selbst: Kann sie den Anforderungen erfüllen? Ist Datenmigration oder strukturelle Anpassung erforderlich? Kann MySQL einer so großen Datenbelastung standhalten? Voranalyse: Schlüsselfilter und Eigenschaften müssen identifiziert werden. Nach der Analyse wurde festgestellt, dass nur wenige Attribute mit der Lösung zusammenhängen. Wir haben die Machbarkeit des Filters überprüft und einige Einschränkungen festgelegt, um die Suche zu optimieren. Kartensuche basierend auf der Stadt

So stellen Sie die Zeitüberschreitung von Vue Axios fest So stellen Sie die Zeitüberschreitung von Vue Axios fest Apr 07, 2025 pm 10:03 PM

Um die Zeitüberschreitung für Vue Axios festzulegen, können wir eine Axios -Instanz erstellen und die Zeitleitungsoption angeben: in globalen Einstellungen: vue.Prototyp. $ Axios = axios.create ({Timeout: 5000}); In einer einzigen Anfrage: this. $ axios.get ('/api/user', {timeout: 10000}).

Wie man MySQL löst, kann nicht gestartet werden Wie man MySQL löst, kann nicht gestartet werden Apr 08, 2025 pm 02:21 PM

Es gibt viele Gründe, warum MySQL Startup fehlschlägt und durch Überprüfung des Fehlerprotokolls diagnostiziert werden kann. Zu den allgemeinen Ursachen gehören Portkonflikte (prüfen Portbelegung und Änderung der Konfiguration), Berechtigungsprobleme (Überprüfen Sie den Dienst Ausführen von Benutzerberechtigungen), Konfigurationsdateifehler (Überprüfung der Parametereinstellungen), Datenverzeichniskorruption (Wiederherstellung von Daten oder Wiederaufbautabellenraum), InnoDB-Tabellenraumprobleme (prüfen IBDATA1-Dateien), Plug-in-Ladeversagen (Überprüfen Sie Fehlerprotokolle). Wenn Sie Probleme lösen, sollten Sie sie anhand des Fehlerprotokolls analysieren, die Hauptursache des Problems finden und die Gewohnheit entwickeln, Daten regelmäßig zu unterstützen, um Probleme zu verhindern und zu lösen.

So verwenden Sie MySQL nach der Installation So verwenden Sie MySQL nach der Installation Apr 08, 2025 am 11:48 AM

Der Artikel führt den Betrieb der MySQL -Datenbank vor. Zunächst müssen Sie einen MySQL -Client wie MySQLworkBench oder Befehlszeilen -Client installieren. 1. Verwenden Sie den Befehl mySQL-uroot-P, um eine Verbindung zum Server herzustellen und sich mit dem Stammkonto-Passwort anzumelden. 2. Verwenden Sie die Erstellung von Createdatabase, um eine Datenbank zu erstellen, und verwenden Sie eine Datenbank aus. 3.. Verwenden Sie CreateTable, um eine Tabelle zu erstellen, Felder und Datentypen zu definieren. 4. Verwenden Sie InsertInto, um Daten einzulegen, Daten abzufragen, Daten nach Aktualisierung zu aktualisieren und Daten nach Löschen zu löschen. Nur indem Sie diese Schritte beherrschen, lernen, mit gemeinsamen Problemen umzugehen und die Datenbankleistung zu optimieren, können Sie MySQL effizient verwenden.

Remote Senior Backend Engineers (Plattformen) benötigen Kreise Remote Senior Backend Engineers (Plattformen) benötigen Kreise Apr 08, 2025 pm 12:27 PM

Remote Senior Backend Engineer Job Vacant Company: Circle Standort: Remote-Büro-Jobtyp: Vollzeitgehalt: 130.000 bis 140.000 US-Dollar Stellenbeschreibung Nehmen Sie an der Forschung und Entwicklung von Mobilfunkanwendungen und öffentlichen API-bezogenen Funktionen, die den gesamten Lebenszyklus der Softwareentwicklung abdecken. Die Hauptaufgaben erledigen die Entwicklungsarbeit unabhängig von RubyonRails und arbeiten mit dem Front-End-Team von React/Redux/Relay zusammen. Erstellen Sie die Kernfunktionalität und -verbesserungen für Webanwendungen und arbeiten Sie eng mit Designer und Führung während des gesamten funktionalen Designprozesses zusammen. Fördern Sie positive Entwicklungsprozesse und priorisieren Sie die Iterationsgeschwindigkeit. Erfordert mehr als 6 Jahre komplexes Backend für Webanwendungen

Kann MySQL JSON zurückgeben? Kann MySQL JSON zurückgeben? Apr 08, 2025 pm 03:09 PM

MySQL kann JSON -Daten zurückgeben. Die JSON_EXTRACT -Funktion extrahiert Feldwerte. Über komplexe Abfragen sollten Sie die Where -Klausel verwenden, um JSON -Daten zu filtern, aber auf die Leistungsauswirkungen achten. Die Unterstützung von MySQL für JSON nimmt ständig zu, und es wird empfohlen, auf die neuesten Versionen und Funktionen zu achten.

Verstehen von Säureeigenschaften: Die Säulen einer zuverlässigen Datenbank Verstehen von Säureeigenschaften: Die Säulen einer zuverlässigen Datenbank Apr 08, 2025 pm 06:33 PM

Detaillierte Erläuterung von Datenbanksäureattributen Säureattribute sind eine Reihe von Regeln, um die Zuverlässigkeit und Konsistenz von Datenbanktransaktionen sicherzustellen. Sie definieren, wie Datenbanksysteme Transaktionen umgehen, und sorgen dafür, dass die Datenintegrität und -genauigkeit auch im Falle von Systemabstürzen, Leistungsunterbrechungen oder mehreren Benutzern gleichzeitiger Zugriff. Säureattributübersicht Atomizität: Eine Transaktion wird als unteilbare Einheit angesehen. Jeder Teil schlägt fehl, die gesamte Transaktion wird zurückgerollt und die Datenbank behält keine Änderungen bei. Wenn beispielsweise eine Banküberweisung von einem Konto abgezogen wird, jedoch nicht auf ein anderes erhöht wird, wird der gesamte Betrieb widerrufen. begintransaktion; updateAccountsSetBalance = Balance-100WH

Der Hauptschlüssel von MySQL kann null sein Der Hauptschlüssel von MySQL kann null sein Apr 08, 2025 pm 03:03 PM

Der MySQL -Primärschlüssel kann nicht leer sein, da der Primärschlüssel ein Schlüsselattribut ist, das jede Zeile in der Datenbank eindeutig identifiziert. Wenn der Primärschlüssel leer sein kann, kann der Datensatz nicht eindeutig identifiziert werden, was zu Datenverwirrung führt. Wenn Sie selbstsinkrementelle Ganzzahlsspalten oder UUIDs als Primärschlüssel verwenden, sollten Sie Faktoren wie Effizienz und Raumbelegung berücksichtigen und eine geeignete Lösung auswählen.

See all articles