Kürzlich hat das Yuanyu Intelligence-Team ein weiteres großes Modell der ChatYuan-Serie als Open Source bereitgestellt: ChatYuan-large-v2, das Inferenz auf einer einzelnen Consumer-Grafikkarte, einem PC und sogar Mobiltelefonen unterstützt.
Gerade hat „Chinese ChatGPT“ ChatYuan eine neue Version veröffentlicht.
Das aktualisierte ChatYuan-large-v2 unterstützt nicht nur zweisprachig Chinesisch und Englisch, sondern unterstützt auch eine Gesamteingabe- und Ausgabelänge von bis zu 4 KB.
Dies ist auch das Forschungsergebnis von Yuanyu Intelligence in Richtung großer Modelle nach den vorherigen Modellen PromptCLUE-base, PromptCLUE-v1-5 und ChatYuan-large-v1.
Open-Source-Projektadresse:
https://github.com/clue-ai/ChatYuan
Huggingface:
https://huggingface.co/ClueAI/ChatYuan-large-v2
Modelscope:
https://modelscope.cn/models/ClueAI/ChatYuan-large-v2/summary
01 Was ist ChatYuan-large-v2?
ChatYuan-large-v2 ist ein funktionales Konversationssprachen-Großmodell, das die Zweisprachigkeit von Chinesisch und Englisch unterstützt. ChatYuan-large-v2 verwendet dieselbe technische Lösung wie die Version 1, was die Feinabstimmung des Unterrichts, das Lernen durch menschliches Feedback und das Lernen angeht Denkketten optimiert.
ChatYuan-large-v2 ist ein repräsentatives Modell der ChatYuan-Serie, das mit leichtem Design hochwertige Effekte erzielt. Es kann die grundlegenden Effekte des 10B-Modells der Branche mit nur 0,7B-Parametern erzielen, wodurch die Inferenzkosten erheblich gesenkt und die Nutzungseffizienz verbessert werden . Benutzer können Rückschlüsse auf Grafikkarten der Verbraucherklasse, PCs und sogar Mobiltelefonen ziehen (INT4 erfordert nur mindestens 400 MB).
Um die Benutzererfahrung zu verbessern, hat das Team die gekapselten Tools Chatyuan-large-v2 lokal implementiert und kann nach dem Herunterladen direkt lokal für das Web verwendet werden Seiteninteraktion.
02 Was sind die Upgrades auf v2?
Basierend auf den ursprünglichen Funktionen von chatyuan-large-v1 wurde das v2-Modell wie folgt optimiert:
- Erweiterte Grundfunktionen: Die ursprünglichen kontextbezogenen Frage- und Antwortfunktionen sowie die kreativen Schreibfunktionen wurden erheblich verbessert.
- Möglichkeit hinzugefügt, die Antwort zu verweigern: Erfahren Sie, wie Sie die Beantwortung einiger gefährlicher und schädlicher Fragen verweigern können.
- Funktion zur Codegenerierung hinzugefügt: Die grundlegende Codegenerierung wurde bis zu einem gewissen Grad optimiert.
- Funktion zur Tabellengenerierung hinzugefügt: Inhalt und Format der generierten Tabelle optimiert.
- Erweiterte mathematische Operationsfunktionen: Grundlegende mathematische Operationen wie Addition und Subtraktion wurden optimiert.
- Erweiterte Gesamteingabe- und Ausgabelänge: Die maximale Anzahl von Längen-Tokens wird auf 4096 erweitert.
- Erweiterte Funktionen für Simulationsszenarien: Sie können Gespräche mit mehreren Personen oder bestimmte Szenarien simulieren und in Szenarien Inhaltserstellung und kontextbezogene Interaktion durchführen.
- Funktionen für zweisprachigen Chinesisch-Englisch-Dialog hinzugefügt: Neu hinzugefügte zweisprachige Chinesisch-Englisch-Interaktion, englische Erstellung, Übersetzung und andere Funktionen.
Ablehnungsfähigkeit
Computergestütztes Denken
Simulation. Szenario
Formular Generieren
Codegenerierung
03 Einschränkungen von v2
Da Chatyuan-large-v1 ein leichtes großes Modell ist, wird es Entwicklern empfohlen, sich dieser Einschränkungen und Mängel bewusst zu sein, darunter:
- Bei der grundlegenden Implementierung grundlegender Funktionen in Argumentation, Berechnung und Codegenerierung besteht immer noch das Problem einer unzureichenden Schulung. In einigen Szenarien treten beispielsweise logische Fehler auf Kommentieren, es kann jedoch nicht garantiert werden, dass es rationalisiert, reibungslos und reibungslos ist. Die Sichtbarkeit muss optimiert werden.
- Allgemeinwissensantworten sind nicht präzise genug und Faktenwissen ist noch ungenau.
- Die Verarbeitung von Kontextinformationen ist immer noch unzureichend.
Fazit
Im Allgemeinen hat sich v2 im Vergleich zum v1-Open-Source-Modell in Bezug auf Kontextverständnis, Inhaltsgenerierung, Codetabellengenerierung usw. erheblich verbessert. Es kann die Grundlage für zig Milliarden Parameterskalen in der Branche erreichen Mit nur 0,7B Parameterskala Der Effekt besteht darin, die Argumentationskosten erheblich zu senken und die Effizienz der Nutzung zu verbessern.
Yuanyu Intelligence erklärte, dass das Team fest an der Open-Source-Route festhalten und in Zukunft weiterhin bessere und größere Allzweck-Großmodelle als Open-Source-Modell veröffentlichen, weiterhin ein Open-Source-Entwickler-Ökosystem aufbauen und die Open-Source-Entwicklung fördern werde Wir hoffen, dass alle Freunde uns kritisieren und korrigieren.
Einladung zum internen Testen des Produkts
Zusätzlich zu diesem Open-Source-ChatYuan-large-v2-Modell hat das Yuanyu-Team offiziell den internen Test des KnowX-Produkts gestartet, das mit den großen Modellfunktionen der neuesten Version ausgestattet ist von ChatYuan online und ist in der Lage, Kontexte zu verstehen. Es verfügt über eine hervorragende Leistung bei der Inhaltsgenerierung, Codegenerierung, logischen Argumentationsberechnungen usw. Um die Zuverlässigkeit, Stabilität und weitere Optimierung der Version sicherzustellen, wurde das Produkt jetzt auf den Markt gebracht Interne Tests. Die Anzahl der Plätze ist begrenzt.
Interner Beta-Anwendungskanal:
https://wj.qq.com/s2/11984341/e00b/
Das obige ist der detaillierte Inhalt vonDomestic ChatGPT ist wieder Open Source! Der Effekt wurde stark verbessert und kann auch auf Mobiltelefonen ausgeführt werden.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
