Technologie-Peripheriegeräte
KI
Es wurde bekannt gegeben, dass OpenAI ein neues Open-Source-Großmodell veröffentlichen wird: Netizens: GPT-Ersatz?
Es wurde bekannt gegeben, dass OpenAI ein neues Open-Source-Großmodell veröffentlichen wird: Netizens: GPT-Ersatz?
OpenAI ist endlich „Open“!
Die neueste Nachricht ist, dass sie die Veröffentlichung eines neuen Open-Source-Sprachmodells vorbereiten.
Nach GPT-2 ist dies das erste Mal seit vier Jahren.
Viele Internetnutzer streckten ihre Hände aus, um ihre Vorfreude auszudrücken: Werden sie ihren eigenen Open-Source-Ersatz veröffentlichen?
Schließlich ist das derzeit beste Open-Source-Modell noch weit von GPT-4 entfernt. Allein hinsichtlich der Parameter beträgt der Unterschied zwischen den beiden drei Größenordnungen, die eine beträgt 20 Milliarden und die andere 1,3 Billionen.
OpenAI wird Open sein
Wird der Schritt von OpenAI in diesem Fall „die Wettbewerbslandschaft des gesamten großen Modells verändern?“
Viele Internetnutzer sagten, dass das erste LLaMA-Großmodell, die Alpakafamilie, die Hauptlast tragen könnte.
Schließlich sind seit der Geburt von ChatGPT unzählige verschiedene Open-Source-Lösungen entstanden, die meisten davon sind jedoch vom großen Meta-Modell inspiriert.
Zum Beispiel Stanfords Alpaca, Berkeleys Vicuna, Kaola und ColossalChat sowie das LLaMA-Modell Huatuo des Harbin Institute of Technology, das das Feinabstimmungsmodell Huatuo basierend auf chinesischem medizinischem Wissen optimiert ... Einige dieser Open-Source-Modelle wurden sogar für die Ausführung optimiert mobile Geräte.
Das neueste Ranking des großen Modells Chatbot Arena der UC Berkeley zeigt, dass viele Open-Source-Modelle dicht hinter GPT-4 und Claude folgen.
Aber ob es ein „Ersatz“ sein wird, wird sich erst mit der finalen Veröffentlichung zeigen.
Es ist auch unklar, ob OpenAI dieses Modell nutzen wird, um mit anderen ähnlichen Open-Source-Modellen zu konkurrieren.
Laut The Information unter Berufung auf mit der Angelegenheit vertraute Personen ist es sicher, dass dieses neue Open-Source-Modell wahrscheinlich nicht mit GPT konkurrieren wird.
Gleichzeitig nennt jemand Google: Jetzt steigt der Druck auf Google.
Auch das Thema Open Source und Moats hat heftige Diskussionen ausgelöst.
Open Source und Moat
Open Source oder Closed Source? Das ist eine Frage.
Vor einiger Zeit sorgte ein internes Google-Dokument für Aufsehen im Internet. Der Kernpunkt ist ganz klar:
Die rasante Entwicklung großer Open-Source-Modelle untergräbt die Positionen von OpenAI und Google.
Und erklärte: „Solange sich die Haltung zu Closed Source nicht ändert, werden Open-Source-Alternativen sie irgendwann in den Schatten stellen (einschließlich ChatGPT)“.
Zu diesem Zeitpunkt haben weder Google noch OpenAI einen Graben in diesem großen Modellwettrüsten.
Viele Open-Source-Probleme wurden gelöst, z. B. die Ausführung auf Geräten mit geringerem Stromverbrauch, skalierbare persönliche KI, Multimodalität usw.
Auch wenn OpenAI und Google mittlerweile einen gewissen Vorsprung bei der Modellqualität haben, verringert sich dieser Abstand rapide.
In den letzten Wochen hat jedes Team im Open-Source-KI-Bereich kontinuierliche Fortschritte gemacht, sei es in Bezug auf Modelle oder Anwendungen.
Zum Beispiel hat das KI-Startup Together letzten Monat ein großes Open-Source-Modell und eine Cloud-Plattform auf Basis von LLaMA aufgebaut und nun 20 Millionen US-Dollar an Startkapital eingesammelt.
Dieser Trend hat sich sogar offline fortgesetzt, und viele Menschen schwelgen und feiern die Open-Source-Bewegung.
Zusätzlich zur Einführung einer Reihe großer Modelltools veranstaltete HuggingFace, das „Open-Source-Zentrum“, sogar offline ein „Woodstock of AI“-Treffen, an dem mehr als 5.000 Menschen teilnahmen.
Stability AI, das Unternehmen hinter Stable Diffusion, und Lightning AI, das PyTorch Lightning entwickelt hat, planen ebenfalls die Abhaltung eines Open-Source-Austauschtreffens.
In den Augen vieler Menschen haben OpenAI und Google einen schlechten Präzedenzfall geschaffen: Die Gefahren nicht überwachter Modelle sind real.
Auch wenn die Modelle dieser großen Technologieunternehmen möglicherweise nicht vollständig reproduzierbar sind, versteht die Open-Source-Community die Grundzutaten dieser „Geheimrezepte“. Aber jetzt kann niemand mehr wissen, welche Zutaten es enthält.
Was haltet Ihr von dieser Angelegenheit?
Referenzlink:
[1]https://www.reuters.com/technology/openai-readies-new-open-source-ai-model-information-2023-05-15/
[2]https:/ /www.theinformation.com/articles/open-source-ai-is-gaining-on-google-and-chatgpt
[3]https://venturebeat.com/ai/open-source-ai-continues-to- feiern-als-big-tech-denkt-über-moats/
Das obige ist der detaillierte Inhalt vonEs wurde bekannt gegeben, dass OpenAI ein neues Open-Source-Großmodell veröffentlichen wird: Netizens: GPT-Ersatz?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
Heiße KI -Werkzeuge
Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos
AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.
Undress AI Tool
Ausziehbilder kostenlos
Clothoff.io
KI-Kleiderentferner
AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.
Heißer Artikel
Heiße Werkzeuge
Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor
SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen
Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung
Dreamweaver CS6
Visuelle Webentwicklungstools
SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)
Heiße Themen
1377
52
Das weltweit leistungsstärkste Open-Source-MoE-Modell ist da, mit chinesischen Fähigkeiten, die mit GPT-4 vergleichbar sind, und der Preis beträgt nur fast ein Prozent von GPT-4-Turbo
May 07, 2024 pm 04:13 PM
Stellen Sie sich ein Modell der künstlichen Intelligenz vor, das nicht nur die Fähigkeit besitzt, die traditionelle Datenverarbeitung zu übertreffen, sondern auch eine effizientere Leistung zu geringeren Kosten erzielt. Dies ist keine Science-Fiction, DeepSeek-V2[1], das weltweit leistungsstärkste Open-Source-MoE-Modell, ist da. DeepSeek-V2 ist ein leistungsstarkes MoE-Sprachmodell (Mix of Experts) mit den Merkmalen eines wirtschaftlichen Trainings und einer effizienten Inferenz. Es besteht aus 236B Parametern, von denen 21B zur Aktivierung jedes Markers verwendet werden. Im Vergleich zu DeepSeek67B bietet DeepSeek-V2 eine stärkere Leistung, spart gleichzeitig 42,5 % der Trainingskosten, reduziert den KV-Cache um 93,3 % und erhöht den maximalen Generierungsdurchsatz auf das 5,76-fache. DeepSeek ist ein Unternehmen, das sich mit allgemeiner künstlicher Intelligenz beschäftigt
KAN, das MLP ersetzt, wurde durch Open-Source-Projekte auf Faltung erweitert
Jun 01, 2024 pm 10:03 PM
Anfang dieses Monats schlugen Forscher des MIT und anderer Institutionen eine vielversprechende Alternative zu MLP vor – KAN. KAN übertrifft MLP in Bezug auf Genauigkeit und Interpretierbarkeit. Und es kann MLP, das mit einer größeren Anzahl von Parametern ausgeführt wird, mit einer sehr kleinen Anzahl von Parametern übertreffen. Beispielsweise gaben die Autoren an, dass sie KAN nutzten, um die Ergebnisse von DeepMind mit einem kleineren Netzwerk und einem höheren Automatisierungsgrad zu reproduzieren. Konkret verfügt DeepMinds MLP über etwa 300.000 Parameter, während KAN nur etwa 200 Parameter hat. KAN hat eine starke mathematische Grundlage wie MLP und basiert auf dem universellen Approximationssatz, während KAN auf dem Kolmogorov-Arnold-Darstellungssatz basiert. Wie in der folgenden Abbildung gezeigt, hat KAN
Tesla-Roboter arbeiten in Fabriken, Musk: Der Freiheitsgrad der Hände wird dieses Jahr 22 erreichen!
May 06, 2024 pm 04:13 PM
Das neueste Video von Teslas Roboter Optimus ist veröffentlicht und er kann bereits in der Fabrik arbeiten. Bei normaler Geschwindigkeit sortiert es Batterien (Teslas 4680-Batterien) so: Der Beamte hat auch veröffentlicht, wie es bei 20-facher Geschwindigkeit aussieht – auf einer kleinen „Workstation“, pflücken und pflücken und pflücken: Dieses Mal wird es freigegeben. Eines der Highlights Der Vorteil des Videos besteht darin, dass Optimus diese Arbeit in der Fabrik völlig autonom und ohne menschliches Eingreifen während des gesamten Prozesses erledigt. Und aus Sicht von Optimus kann es auch die krumme Batterie aufnehmen und platzieren, wobei der Schwerpunkt auf der automatischen Fehlerkorrektur liegt: In Bezug auf die Hand von Optimus gab der NVIDIA-Wissenschaftler Jim Fan eine hohe Bewertung ab: Die Hand von Optimus ist der fünffingrige Roboter der Welt am geschicktesten. Seine Hände sind nicht nur taktil
FisheyeDetNet: der erste Zielerkennungsalgorithmus basierend auf einer Fischaugenkamera
Apr 26, 2024 am 11:37 AM
Die Zielerkennung ist ein relativ ausgereiftes Problem in autonomen Fahrsystemen, wobei die Fußgängererkennung einer der ersten Algorithmen ist, die eingesetzt werden. In den meisten Arbeiten wurde eine sehr umfassende Recherche durchgeführt. Die Entfernungswahrnehmung mithilfe von Fischaugenkameras für die Rundumsicht ist jedoch relativ wenig untersucht. Aufgrund der großen radialen Verzerrung ist es schwierig, die standardmäßige Bounding-Box-Darstellung in Fischaugenkameras zu implementieren. Um die obige Beschreibung zu vereinfachen, untersuchen wir erweiterte Begrenzungsrahmen-, Ellipsen- und allgemeine Polygondesigns in Polar-/Winkeldarstellungen und definieren eine mIOU-Metrik für die Instanzsegmentierung, um diese Darstellungen zu analysieren. Das vorgeschlagene Modell „fisheyeDetNet“ mit polygonaler Form übertrifft andere Modelle und erreicht gleichzeitig 49,5 % mAP auf dem Valeo-Fisheye-Kameradatensatz für autonomes Fahren
Posthume Arbeit des OpenAI Super Alignment Teams: Zwei große Modelle spielen ein Spiel und die Ausgabe wird verständlicher
Jul 19, 2024 am 01:29 AM
Wenn die Antwort des KI-Modells überhaupt unverständlich ist, würden Sie es wagen, sie zu verwenden? Da maschinelle Lernsysteme in immer wichtigeren Bereichen eingesetzt werden, wird es immer wichtiger zu zeigen, warum wir ihren Ergebnissen vertrauen können und wann wir ihnen nicht vertrauen sollten. Eine Möglichkeit, Vertrauen in die Ausgabe eines komplexen Systems zu gewinnen, besteht darin, vom System zu verlangen, dass es eine Interpretation seiner Ausgabe erstellt, die für einen Menschen oder ein anderes vertrauenswürdiges System lesbar ist, d. h. so vollständig verständlich, dass mögliche Fehler erkannt werden können gefunden. Um beispielsweise Vertrauen in das Justizsystem aufzubauen, verlangen wir von den Gerichten, dass sie klare und lesbare schriftliche Stellungnahmen abgeben, die ihre Entscheidungen erläutern und stützen. Für große Sprachmodelle können wir auch einen ähnlichen Ansatz verfolgen. Stellen Sie bei diesem Ansatz jedoch sicher, dass das Sprachmodell generiert wird
Mit einer einzelnen Karte läuft Llama 70B schneller als mit zwei Karten, Microsoft hat gerade FP6 in A100 integriert |
Apr 29, 2024 pm 04:55 PM
FP8 und die geringere Gleitkomma-Quantifizierungsgenauigkeit sind nicht länger das „Patent“ von H100! Lao Huang wollte, dass jeder INT8/INT4 nutzt, und das Microsoft DeepSpeed-Team begann, FP6 auf A100 ohne offizielle Unterstützung von NVIDIA auszuführen. Testergebnisse zeigen, dass die FP6-Quantisierung der neuen Methode TC-FPx auf A100 nahe an INT4 liegt oder gelegentlich schneller als diese ist und eine höhere Genauigkeit aufweist als letztere. Darüber hinaus gibt es eine durchgängige Unterstützung großer Modelle, die als Open-Source-Lösung bereitgestellt und in Deep-Learning-Inferenz-Frameworks wie DeepSpeed integriert wurde. Dieses Ergebnis wirkt sich auch unmittelbar auf die Beschleunigung großer Modelle aus – in diesem Rahmen ist der Durchsatz bei Verwendung einer einzelnen Karte zum Ausführen von Llama 2,65-mal höher als der von Doppelkarten. eins
Das Neueste von der Universität Oxford! Mickey: 2D-Bildabgleich in 3D SOTA! (CVPR\'24)
Apr 23, 2024 pm 01:20 PM
Projektlink vorne geschrieben: https://nianticlabs.github.io/mickey/ Anhand zweier Bilder kann die Kameraposition zwischen ihnen geschätzt werden, indem die Korrespondenz zwischen den Bildern hergestellt wird. Normalerweise handelt es sich bei diesen Entsprechungen um 2D-zu-2D-Entsprechungen, und unsere geschätzten Posen sind maßstabsunabhängig. Einige Anwendungen, wie z. B. Instant Augmented Reality jederzeit und überall, erfordern eine Posenschätzung von Skalenmetriken und sind daher auf externe Tiefenschätzer angewiesen, um die Skalierung wiederherzustellen. In diesem Artikel wird MicKey vorgeschlagen, ein Keypoint-Matching-Prozess, mit dem metrische Korrespondenzen im 3D-Kameraraum vorhergesagt werden können. Durch das Erlernen des 3D-Koordinatenabgleichs zwischen Bildern können wir auf metrische Relativwerte schließen
Keine OpenAI-Daten erforderlich, schließen Sie sich der Liste der großen Codemodelle an! UIUC veröffentlicht StarCoder-15B-Instruct
Jun 13, 2024 pm 01:59 PM
An der Spitze der Softwaretechnologie kündigte die Gruppe von UIUC Zhang Lingming zusammen mit Forschern der BigCode-Organisation kürzlich das StarCoder2-15B-Instruct-Großcodemodell an. Diese innovative Errungenschaft erzielte einen bedeutenden Durchbruch bei Codegenerierungsaufgaben, übertraf erfolgreich CodeLlama-70B-Instruct und erreichte die Spitze der Codegenerierungsleistungsliste. Die Einzigartigkeit von StarCoder2-15B-Instruct liegt in seiner reinen Selbstausrichtungsstrategie. Der gesamte Trainingsprozess ist offen, transparent und völlig autonom und kontrollierbar. Das Modell generiert über StarCoder2-15B Tausende von Anweisungen als Reaktion auf die Feinabstimmung des StarCoder-15B-Basismodells, ohne auf teure manuelle Annotationen angewiesen zu sein.
