豆包大模型日均Tokens使用量破5000億,模型家族再升級

王林
發布: 2024-08-14 10:02:31
原創
193 人瀏覽過

7月25日,火山引擎2024「AI創新巡展」首站成都站透露了字節豆包大模型的最新進展:截至7月,豆包大模型日均Tokens使用量已突破5000億,平均每家企業客戶日均Tokens使用量較5月15日模型發布期間成長22倍。

豆包大模型日均Tokens使用量破5000億,模型家族再升級

1. 豆包大模型由字節跳動自研,原名“雲雀”,是國內首批通過算法備案的大模型之一,目前通過字節跳動旗下雲服務平台火山引擎面向企業提供服務。
  1. 自發布之初,豆包大模型便主打使用量大、應用場景豐富。
  2. 根據火山引擎副總裁張鑫介紹,在位元組內部,有超過50多個業務在使用豆包大模型,涵蓋了協同辦公、數據分析、文案創作、輔助編程、內容審核、客服、遊戲NPC、角色對話、教育等各種場景,基於豆包大模型打造的新技術引擎正在加速業務創新;此外,豆包大模型的外部客戶已覆蓋手機、汽車、金融、消費、互娛等30多個產業,並聯合OPPO、vivo、榮耀、小米、三星、華碩等知名終端廠商和吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家汽車廠商分別成立了智慧終端大模型聯盟和汽車大模型生態聯盟。

    豆包大模型日均Tokens使用量破5000億,模型家族再升級

    圖說:火山引擎副總裁張鑫在2024「AI創新巡展」活動現場
    本次活動中,作為豆包大模型西南區域的企業客戶典型,藍領招聘平台魚泡科技和智能客服企業曉多科技也各自分享了接入豆包大模型實現業務成長的案例經驗。其中,魚泡科技的豆包大模型日均調用量已超1億Tokens,應用場景涵蓋了崗位要求識別、工種識別、求職意圖識別、推薦系統相似度識別等。
    火山引擎大模型服務演算法架構師孫帆指出,企業在使用大模型時,面臨的關鍵挑戰就是「模型效果」、「使用成本」和「落地難度」三個面向。豆包大模型和火山引擎正是從「更強模型」「更低價格」「更容易落地」出發,幫企業解決難題。
    據悉,豆包模型家族在5月正式發佈時,提供的就是一個有多模態能力的模型家族,主要包括通用模型pro、通用模型lite、語音辨識模型、語音合成模型、文生圖模型等九款模型。主力模型豆包通用模式pro自5月發布以來,在多個公開評測集以及專業的第三方評測中表現出眾,是得分最高的國產大模型。
    本次,豆包模型家族升級了文生圖模型和語音模型。升級後的豆包·文生圖模型具備更精準的中英文長文本理解能力,能夠生成圖文一致的高美感圖片;豆包·語音合成模型在升級後實現了智能識別文本情緒並對語速、語調動態調整,使之情緒更加飽滿;聲音復刻模型僅需5秒就能高保真復刻人聲,並支持多種小語種。
    值得一提的是,豆包模型家族此次官宣了一位新成員-豆包·圖生圖模型。基於文生圖模型打造,豆包·圖生圖模型能實現高度還原人物特徵,50多種風格場景自由轉換,並提供多種富有創意的延展編輯。該模型能力已在抖音、剪映、豆包、星繪等字節系App中落地,並透過火山引擎服務了三星、努比亞等企業客戶,目前日均圖生圖數量達到數千萬張。
    在模型定價方面,公開報告顯示,豆包主力模型的推理輸入價格只有0.0008元/千Tokens,比行業便宜99.3%。火山引擎總裁譚待先前接受訪問時曾對此表示,大模型的超低定價,來自對技術的信心,火山引擎能透過技術手段實現大模型推理成本的最佳化。
    「一個人現在創業,如果要花1萬塊調用大模型,可能會覺得有點貴。我們把價格降到1%都不到,100塊錢就能用起來,他的想法也就更容易嘗試。 」
    除了效果好,價格便宜,豆包大模型還給出了最高可達同梯隊模型數倍的每分鐘處理Tokens限額,讓模型服務具備更強的承載力。
    據孫帆介紹,豆包通用模型pro為客戶提供了業內最高標準的初始TPM(每分鐘Tokens)和RPM(每分鐘請求數),有助於企業的業務在高並發場景中落地。也持續加大對大模型技術研究的投入,近期在視覺、語音等方向有多項亮眼成果產出,其中,已有部分能力應用於豆包大模型相關產品中。以紮實的技術實力給客戶更好的選擇,幫助企業解除成本包袱,讓客戶更積極更大膽的嘗試、迭代,讓大模型應用大步向前。 」孫帆說。
    火山引擎還升級了頭條、抖音同款插件服務,新增網頁解析、計算器等插件,進一步擴寬模型能力的邊界,支持企業多樣的應用需求,同時帶來了釦子專業版、HiAgent平台等多款產品和雲端基礎設施的最新進展。性的產業方案、產品和優化服務,相信在未來,會有更多西南區域的企業借助豆包大模型和火山引擎的力量,實現業務創新,從而為經濟發展注入新的活力。 ”

以上是豆包大模型日均Tokens使用量破5000億,模型家族再升級的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:jiqizhixin.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板
關於我們 免責聲明 Sitemap
PHP中文網:公益線上PHP培訓,幫助PHP學習者快速成長!