Platform model besar Baidu Intelligent Cloud Qianfan telah dinaik taraf semula: 5 model besar dan 55 komponen alat baharu telah dikeluarkan!

Melayan 80,000 pengguna perusahaan, telah membantu pengguna memperhalusi 13,000 model besar, dan membantu pengguna membangunkan 160,000 aplikasi model besar Sejak Disember 2023, panggilan API harian Baidu Smart Cloud Qianfan Large Model Platform telah meningkat dari bulan ke bulan. . 97%... Daripada "perintis" platform model besar domestik setahun yang lalu kepada "kilang super" model besar hari ini, platform model besar Baidu Intelligent Cloud Qianfan menempati kedudukan utama dalam pasaran model besar domestik, tetapi Mercedes -Benz Langkah tidak berhenti.

Pada 21 Mac, Baidu Intelligent Cloud mengadakan persidangan pelancaran produk Qianfan di Beijing Shougang Park mengumumkan semasa persidangan:

1 Berganding bahu dengan Beijing Shijings Pangkalan Inovasi Industri Model Besar Baidu Intelligent Cloud Qianfan mempromosikan industri serantau

2 Untuk memenuhi permintaan teras perusahaan untuk "keberkesanan kos", perkhidmatan model besar Qianfan ModelBuilder dinaik taraf sepenuhnya, dengan 3 ringan. model besar, 2 Model besar pemandangan menegak baru dikeluarkan;

3. Ambang untuk pembangunan aplikasi asli AI dikurangkan dengan banyaknya, dan keupayaan komponen Qianfan AppBuilder ditingkatkan sepenuhnya.

(Industri Model Besar Qianfan Awan Pintar Baidu (Beijing) Pangkalan Inovasi Memulakan Pembinaan)

Semasa majlis itu, Cao Shijings Daerah, ahli Gabenor Daerah, Cao Shijings dan Deputy dan Jawatankuasa Pengurusan Taman Shijingshan Zhongguancun Cui Mingming, timbalan pengarah Persatuan, Xie Guangjun, Naib Presiden Baidu, dan Shi Qinghua, Naib Presiden Baidu, bersama-sama melancarkan majlis pelancaran Industri Model Besar Ganfan Awan Pintar Baidu yang pertama di negara ini (Beijing) Pangkalan Inovasi.

Asas inovasi komited untuk mempromosikan integrasi mendalam teknologi model besar dan inovasi industri Kedua-dua pihak akan menumpukan pada meningkatkan bekalan kuasa pengkomputeran, mengoptimumkan algoritma model, mempromosikan keterbukaan data, mewujudkan senario demonstrasi. dan memperdalam pengenalan dan latihan bakat, kerajaan dan perusahaan bekerjasama untuk mewujudkan tanah tinggi baharu untuk industri kecerdasan buatan. Timbalan Gabenor Daerah Cao Shihui berkata bahawa Daerah Shijingshan akan bekerjasama dengan Baidu untuk memberi tumpuan kepada penyelidikan dan pembangunan serta aplikasi inovatif kecerdasan buatan dan teknologi model besar, membina dan menambah baik ekosistem industri AI, menyediakan sokongan untuk transformasi digital serantau dan peningkatan pintar industri, dan menyediakan sokongan untuk produktiviti berkualiti baharu. . syarikat Memfokuskan pada "ontologi" model besar dengan institut penyelidikan saintifik, gila "involusi".

Xie Guangjun, Naib Presiden Baidu, berkata teknologi model besar telah berkembang pesat pada tahun lalu, dan dengan pelaksanaannya secara beransur-ansur dalam beribu-ribu industri, 2024 akan menjadi tahun pertama untuk letupan besar domestik. aplikasi industri model. Sebagai tindak balas kepada empat cabaran utama yang paling dibimbangkan oleh perusahaan, termasuk senario pelaksanaan model besar, kos penggunaan, pembangunan aplikasi dan kesan aplikasi, Baidu Intelligent Cloud Qianfan telah menyediakan "idea penyelesaian masalah" terkini dalam dua aspek: model besar dan pembangunan aplikasi asli AI.

Baidu Intelligent Cloud Qianfan platform model besar mengeluarkan pakej model baharu "3+2": meningkatkan "keberkesanan kos" aplikasi perusahaan model besar

ialah "kesan teknikal model besar " Mengejar faedah ekonomi tanpa henti adalah matlamat utama "puak pasaran". Dalam berkomunikasi dengan pelanggan dalam banyak industri, Xie Guangjun mendapati bahawa kecuali beberapa pelanggan besar yang mengejar kesan muktamad model besar, lebih banyak syarikat dan institusi sering perlu mempertimbangkan secara menyeluruh kesan penggunaan, prestasi dan kos model besar, iaitu, "valensi" Bandingkan". Kali ini, matriks model platform Qianfan telah melalui beberapa siri peningkatan sebagai tindak balas kepada daya tarikan teras syarikat "keberkesanan kos".

(Baidu Intelligent Cloud Qianfan Model Besar Model Platform Matriks)

Wenxin model besar ERNIE 3.5 kini merupakan salah satu model besar asas yang paling popular pada platform model besar Baidu Intelligent Cloud Qianfan. Untuk senario dialog biasa pengguna, ERNIE 3.5 telah meningkatkan keupayaannya dalam tiga aspek: mengikut arahan, pembelajaran konteks dan keupayaan penaakulan logik. ERNIE 3.5 yang dinaik taraf telah meningkatkan prestasi aplikasinya dengan ketara sebanyak 24%, 27% dan 22% dalam tiga senario aplikasi perusahaan utama, seperti penciptaan copywriting, pengekstrakan maklumat dan penggunaan alat.

Kedua, berbanding model besar dengan parameter ultra-besar, model besar ringan mempunyai parameter yang lebih kecil, memudahkan pelanggan untuk memperhalusi model untuk senario penggunaan tertentu, menjadikannya lebih mudah untuk mencapai kesan penggunaan yang dijangkakan sambil menjimatkan wang. Pada persidangan ini, Baidu Intelligent Cloud mengeluarkan tiga model besar ringan termasuk ERNIE Speed, ERNIE Lite dan ERNIE Tiny, dengan parameter antara besar hingga kecil, untuk membantu pelanggan mencapai "mengurangkan volum tanpa mengurangkan kecekapan" dan menjimatkan kos yang tidak perlu.

Secara khusus, ERNIE Speed, sebagai "yang besar" antara tiga model besar ringan, mempunyai panjang konteks sehingga 128k dalam senario penaakulan, dan boleh mengendalikan tugasan seperti soal jawab pengetahuan dengan lebih baik kebergantungan konteks untuk menjana ramalan atau jawapan yang lebih koheren dan tepat. Pada masa yang sama, ERNIE Speed ​​​​boleh digunakan sebagai model asas untuk penalaan halus untuk senario tertentu Kesan model boleh menyamai atau bahkan melebihi model skala besar berparameter utama, dan keberkesanan kos dipertingkatkan. .

Berbanding dengan ERNIE Speed, ERNIE Lite mempunyai parameter yang lebih kecil dan lebih sesuai dipasang pada kad pemecut AI dengan kuasa pengkomputeran rendah untuk mengendalikan tugas inferens sambil mengambil kira kesan model dan prestasi inferens mengurangkan kos pelaksanaan Pelanggan. Sebagai versi model ERNIE-Bot-turbo yang dinaik taraf, kesan aplikasi ERNIE Lite dalam senario seperti analisis sentimen, pembelajaran berbilang tugas dan penaakulan semula jadi telah bertambah baik sebanyak 20%. Kos panggilan inferens telah menurun dengan ketara sebanyak 53%!

ERNIE Tiny, yang mempunyai bilangan parameter terkecil antara tiga model ringan, menyediakan pelanggan pilihan terbaik untuk kos yang sangat rendah dan kependaman rendah. Dalam senario aplikasi berkemampuan tinggi dan kependaman rendah seperti pengambilan semula, pengesyoran dan pengecaman niat, prestasi cemerlang ERNIE Tiny menunjukkan prestasi cemerlang. Dalam senario perniagaan pengesyoran dialog tertentu, ERNIE Tiny yang diperhalusi meningkatkan bilangan pusingan dialog sebanyak 3.5% dan mengurangkan kos sebanyak 32% berbanding dengan ERNIE 3.5 dalam merangsang perkataan disyorkan enjin carian.

Selain itu, perusahaan mempunyai keperluan yang lebih tinggi untuk kesan model besar dalam permainan watak dan panggilan alat luaran dalam aplikasi praktikal. Platform model besar Qianfan ini ModelBuilder juga melancarkan dua model besar adegan menegak, ERNIE Character dan ERNIE Functions, berdasarkan cerapan mendalam tentang senario perusahaan dan amalan terbaik perniagaan Baidu sendiri, untuk menyesuaikan diri dengan senario aplikasi main peranan pelanggan ( Seperti permainan NPC, dialog perkhidmatan pelanggan, dsb.) dan senario panggilan alat (menggunakan alat luaran dalam dialog, memanggil fungsi perniagaan, dsb.).

Dalam amalan korporat, pengeluar perkakasan pintar mencipta pembantu pintar berdasarkan ERNIE Character Selepas menggunakan model ini, kesannya telah meningkat dengan ketara dari segi konsistensi watak, merangsang dan meningkatkan keinginan pengguna untuk berbual, dsb. . APP perjalanan dan perjalanan menggunakan Fungsi ERNIE untuk mencipta pembantu perkhidmatan pelanggan yang bijak, dengan ketepatan 85% dalam melaksanakan pelbagai panggilan fungsi seperti menempah tiket dan menyemak status penerbangan. . Lapisan bawah AppBuilder terdiri daripada komponen model besar berdasarkan tahun teknologi dan pengalaman praktikal Baidu, komponen asas komponen keupayaan AI dan satu siri komponen lanjutan yang ditala secara mendalam dan dibina untuk senario aplikasi biasa. Komponen asas dan komponen lanjutan bersama-sama menyokong Ejen Di satu pihak, logik perniagaan yang lebih kompleks boleh dilaksanakan melalui orkestrasi aliran kerja Sebaliknya, Ejen juga mempunyai keupayaan perancangan tugas autonomi yang kukuh dan boleh memahami niat pengguna dan secara automatik merancang laluan pelaksanaan. untuk mencapai integrasi berbilang alatan. Keupayaan ini disediakan melalui dua kaedah pembangunan, keadaan kod sifar dan keadaan kod, untuk lebih sepadan dengan keperluan pembangun yang berbeza.

Selepas pembangunan selesai, aplikasi boleh diedarkan dan disepadukan melalui berbilang saluran AppBuilder menyokong pengedaran satu klik aplikasi ke saluran arus perdana seperti perkhidmatan pelanggan WeChat, akaun rasmi WeChat, klien Web/H5 dan. Matriks Baidu Lingjing. Berdasarkan Matriks Alam Rohani Baidu, aplikasi boleh diedarkan dan dipasang dalam senario arus perdana seperti carian Baidu dan aliran maklumat Baidu. Setelah aplikasi benar-benar dibangunkan, ia akan terus menjangkau pengguna dan membuka keseluruhan proses daripada penciptaan aplikasi asli AI kepada pembangunan kepada pengedaran.

(Baidu Smart Cloud Qianfan AppBuilder)

AppBuilder yang dinaik taraf mempunyai sebanyak 55 komponen alat terbuka. Ia termasuk komponen model besar dan komponen keupayaan AI berdasarkan pengumpulan teknologi bertahun-tahun Baidu dan pengumpulan perniagaannya sendiri, serta komponen perniagaan khusus Baidu seperti carian dan alat API pihak ketiga untuk berbilang senario Selain itu, ia juga menyediakan RAG (soal jawab perolehan pengetahuan), Komponen keupayaan lanjutan seperti GBI (Analisis Data Generatif) yang ditala secara mendalam mengikut senario aplikasi biasa.

Membangunkan aplikasi asli AI tidak dapat dipisahkan daripada infrastruktur awan yang dikeluarkan kali ini juga termasuk pangkalan data vektor Baidu Smart Cloud yang baru dilancarkan VDB 1.0. Pangkalan data vektor ialah komponen teras asas pengetahuan yang amat diperlukan untuk perusahaan. Ia menyediakan penyelesaian yang berkuasa kepada kesesakan prestasi, cabaran penyelenggaraan dan had skala yang dihadapi oleh sistem soal jawab asas pengetahuan. Pangkalan data vektor Baidu yang baru dikeluarkan VDB 1.0 bukan sahaja menyepadukan operasi komprehensif dan kawalan penyelenggaraan serta keupayaan perlindungan keselamatan, tetapi juga serasi dengan ekosistem arus perdana seperti Qianfan dan LangChain, yang boleh membantu perusahaan mengurus dengan mudah berpuluh juta pengetahuan dokumen dan sokongan sehingga Skala storan vektor 100 Bilion dan kelajuan perolehan vektor peringkat milisaat. Pada masa yang sama, berbanding dengan produk sumber terbuka yang serupa, prestasi VDB 1.0 dipertingkatkan sehingga 10 kali ganda.

Di atas komponen, rangka kerja aplikasi Agen (pintar) yang dilancarkan oleh Qianfan AppBuilder mempunyai keupayaan perancangan tugas bebas yang tepat, dan ketepatan orkestra automatik berbilang alatan aplikasi melebihi 90%, dan jumlah ini masih di sana sentiasa bertambah baik. AppBuilder juga menyokong pembangun untuk mengakses alatan tersuai dan menggabungkan orkestra automatik dengan orkestrasi manual untuk menyesuaikan keperluan aplikasi senario yang lebih kompleks. Keupayaan jurubahasa kod dalam rangka kerja Ejen juga telah meningkatkan prestasi dengan ketara sebanyak 40% dalam peningkatan ini, dan kadar penerimaan hasil yang dijana dalam senario analisis data yang kompleks adalah setinggi 95%, menjadikannya mudah untuk menghadapi pelbagai analisis data dan maklumat senario pemprosesan.

Selain itu, alatan pembangunan berasaskan kod AppBuilder turut ditambah. AppBuilder SDK mengeluarkan Agent API kali ini, membolehkan pembangun menyepadukan Agent dengan mudah ke dalam sistem perniagaan mereka Pada masa yang sama, AppBuilder SDK menyediakan banyak contoh aplikasi untuk senario aplikasi asli AI arus perdana Ia kini merupakan sumber terbuka pada Github dan menyokong pelbagai aplikasi . Orkestrasi fleksibel dengan panggilan komponen percuma membantu pembangun merealisasikan pembangunan sekunder dan penyepaduan aplikasi yang mudah. Persidangan juga menunjukkan cara membina aplikasi "Pembantu Komposisi Bahasa Inggeris" (pintar) dalam hanya 1 minit dalam mod pembangunan sifar. fungsi aplikasi yang dibangunkan, platform boleh menjana aplikasi secara automatik Dengan hanya melaraskan arahan peranan dan menambah komponen alat yang diperlukan, pembantu pembetulan komposisi bahasa Inggeris boleh dijana dengan cepat. Anda boleh menggunakannya secara langsung selepas menerbitkan, dan melengkapkan penciptaan dan pengedaran aplikasi dalam tiga langkah. . menjadi semakin penting. Hanya dengan mendalami senario, menemui dan bertindak balas kepada keperluan sebenar pelanggan adalah cara terbaik untuk mengeluarkan dividen teknologi inovatif.

Atas ialah kandungan terperinci Platform model besar Baidu Intelligent Cloud Qianfan telah dinaik taraf semula: 5 model besar dan 55 komponen alat baharu telah dikeluarkan!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!