7月25日，火山引擎2024“AI创新巡展”首站成都站透露了字节豆包大模型的最新进展：截至7月，豆包大模型日均Tokens使用量已突破5000亿，平均每家企业客户日均Tokens使用量较5月15日模型发布时期增长22倍。
1. 豆包大模型由字节跳动自研，原名“云雀”，是国内首批通过算法备案的大模型之一，目前通过字节跳动旗下云服务平台火山引擎面向企业提供服务。
- 自发布之初，豆包大模型便主打使用量大、应用场景丰富。
- 据火山引擎副总裁张鑫介绍，在字节内部，有超过50多个业务在使用豆包大模型，覆盖了协同办公、数据分析、文案创作、辅助编程、内容审核、客服、游戏NPC、角色对话、教育等各种场景，基于豆包大模型打造的新技术引擎正在加速业务创新；此外，豆包大模型的外部客户已覆盖手机、汽车、金融、消费、互娱等30多个行业，并联合OPPO、vivo、荣耀、小米、三星、华硕等知名终端厂商和吉利汽车、长城汽车、捷途汽车、赛力斯、智己汽车等20余家汽车厂商分别成立了智能终端大模型联盟和汽车大模型生态联盟。
Bildunterschrift: Zhang Das Kundendienstunternehmen Xiaoduo Technology teilte auch seine jeweiligen Ansichten mit. Es werden Fallbeispiele für den Zugriff auf das Doubao-Großmodell zur Erzielung von Geschäftswachstum bereitgestellt. Unter ihnen hat das Beanbao-Großmodell von Yupao Technology ein durchschnittliches tägliches Anrufvolumen von mehr als 100 Millionen Token, und seine Anwendungsszenarien umfassen die Identifizierung von Jobanforderungen, die Identifizierung von Jobtypen, die Identifizierung von Jobsuchabsichten, die Identifizierung von Empfehlungssystemähnlichkeiten usw.
Sun Fan, der Algorithmusarchitekt des großen Modelldienstes von Volcano Engine, wies darauf hin, dass die wichtigsten Herausforderungen, mit denen Unternehmen bei der Verwendung großer Modelle konfrontiert sind, drei Aspekte sind: „Modelleffekt“, „Nutzungskosten“ und „Schwierigkeit der Implementierung“. Doubao Big Model und Volcano Engine gehen von einem „stärkeren Modell“, einem „niedrigeren Preis“ und einer „einfacheren Implementierung“ aus, um Unternehmen bei der Lösung von Problemen zu helfen.
Es wird berichtet, dass die Doubao-Modellfamilie bei ihrer offiziellen Veröffentlichung im Mai eine Modellfamilie mit multimodalen Funktionen bereitstellte, die hauptsächlich neun Modelle wie General Model Pro, General Model Lite, Spracherkennungsmodell, Sprachsynthesemodell usw. umfasste Vincent-Diagrammmodell. Seit seiner Veröffentlichung im Mai hat das Hauptmodell Doubao Universal Model Pro in mehreren öffentlichen Bewertungssätzen und professionellen Bewertungen durch Dritte hervorragende Ergebnisse erzielt und ist das inländische Großmodell mit der höchsten Punktzahl.
Dieses Mal hat die Doubao-Modellfamilie das Vincentian-Grafikmodell und das Sprachmodell aktualisiert. Das verbesserte Doubao·Vensen-Bildmodell verfügt über eine genauere Fähigkeit, lange chinesische und englische Texte zu verstehen, und kann hochästhetische Bilder mit konsistenten Grafiken und Texten erzeugen. Das verbesserte Doubao·Sprachsynthesemodell ermöglicht eine intelligente Erkennung von Textemotionen und eine dynamische Sprachgeschwindigkeit und Intonation anpassen, um es emotionaler zu machen; das Stimmwiedergabemodell kann menschliche Stimmen in nur 5 Sekunden mit hoher Wiedergabetreue reproduzieren und unterstützt eine Vielzahl kleiner Sprachen.
Es ist erwähnenswert, dass die Doubao-Modellfamilie dieses Mal offiziell ein neues Mitglied angekündigt hat – das Doubao Tushengtu-Modell. Basierend auf dem Wenshengtu-Modell kann das Doubao·Tushengtu-Modell ein hohes Maß an Charaktereigenschaften wiederherstellen, mehr als 50 Stilszenen kostenlos konvertieren und eine Vielzahl kreativer erweiterter Bearbeitungen ermöglichen. Diese Modellfunktion wurde in bytebasierten Apps wie Douyin, Jianying, Doubao und Xinghui implementiert und hat über die Volcano Engine Unternehmenskunden wie Samsung und Nubia bedient. Die aktuelle durchschnittliche Anzahl der pro Tag generierten Bilder beträgt mehrere zehn Millionen . .
In Bezug auf die Modellpreise zeigen öffentliche Berichte, dass der Inferenz-Inputpreis des Hauptmodells von Doubao nur 0,0008 Yuan/tausend Token beträgt, was 99,3 % günstiger ist als in der Branche. Tan Dai, Präsident von Volcano Engine, sagte in einem früheren Interview, dass die extrem niedrigen Preise für große Modelle auf dem Vertrauen in die Technologie beruhen, mit der Volcano Engine die Inferenzkosten großer Modelle durch technische Mittel optimieren kann.
„Wenn jemand jetzt ein Unternehmen gründet und 10.000 Yuan ausgeben muss, um ein großes Modell anzurufen, denkt er vielleicht, dass es etwas teuer ist. Wir haben den Preis auf weniger als 1 % gesenkt, und er kann es für 100 nutzen Yuan, und seine Idee wird einfacher sein.“ Tan Dai sagte, dass die KI-Transformation von Unternehmen voller Unsicherheiten sei und die Kosten für Versuch und Irrtum so gering wie möglich sein müssten, um die Anwendung großer Modelle zu realisieren schneller und besser, wovon die gesamte Branche profitiert. „
Neben guten Effekten und niedrigen Preisen bietet das Doubao-Großmodell auch ein Token-Verarbeitungslimit pro Minute, das um ein Vielfaches höher sein kann als das gleiche Staffelmodell, was dem Modelldienst eine höhere Tragfähigkeit verleiht
Laut Sun Fan Das allgemeine Doubao-Modell Pro bietet Kunden die branchenweit höchsten Standards für anfängliches TPM (Tokens pro Minute) und RPM (Anfragen pro Minute), was Unternehmen dabei hilft, ihr Geschäft in Szenarien mit hoher Parallelität umzusetzen.
Derzeit erweitert ByteDance seine Unterstützung weiter. Die Investition in die Technologieforschung für große Modelle hat in letzter Zeit zu einer Reihe herausragender Erfolge in den Bereichen Sehvermögen, Sprache und anderen Bereichen geführt, und einige seiner Fähigkeiten wurden auf Produkte im Zusammenhang mit Sitzsäcken für große Modelle angewendet.
„Wir hoffen, unsere solide technische Stärke dazu nutzen zu können Durch die Bereitstellung innovativerer Produkte für Kunden können Unternehmen ihre Kosten entlasten, Kunden können aktivere und mutigere Iterationen durchführen und groß angelegte Modellanwendungen vorantreiben. „Sagte Sun Fan.
Die Volcano Engine hat auch die gleichen Plug-in-Dienste für Toutiao und Douyin aktualisiert und Plug-ins wie Webseiten-Parsing und Taschenrechner hinzugefügt, wodurch die Grenzen der Modellfunktionen weiter erweitert und die vielfältigen Anwendungsanforderungen von unterstützt werden Unternehmen und bringt gleichzeitig Buttons Professional-Version, HiAgent-Plattform und andere Produkte sowie die neuesten Fortschritte in der Cloud-Infrastruktur
Zhang Xin sagte, dass die Volcano Engine mit hoher Geschwindigkeit selbstständig iteriert und intelligenter, industrialisierter und regionalisierter wird Er sagte: „Durch gezielte Branchenlösungen, Produkte und optimierte Dienstleistungen. Ich glaube, dass in Zukunft mehr Unternehmen in der südwestlichen Region die Kraft des Sitzsackmodells und des Vulkanmotors nutzen werden, um Geschäftsinnovationen zu erzielen und so neue Impulse zu setzen.“ Vitalität in die wirtschaftliche Entwicklung.
以上是豆包大模型日均Tokens使用量破5000亿，模型家族再升级的详细内容。更多信息请关注PHP中文网其他相关文章！
