Jadual Kandungan
1 Pengenalan
2 Kaedah
3 Eksperimen
Rumah Peranti teknologi AI Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Apr 12, 2023 pm 11:19 PM
data belajar

Artikel ini memperkenalkan kertas kerja yang disertakan dalam AAAI 2023. Kertas kerja itu ditulis oleh Hua Yang dan Louisian dari Makmal Kunci Shanghai bagi Pengkomputeran Skala dan Sistem di Universiti Jiao Tong Shanghai, Queen's University Belfast Teacher Wang Hao dari Negeri Nazhou Universiti bersama-sama menyiapkannya.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

  • Pautan kertas:​https://arxiv.org/abs/2212.01197​
  • Pautan kod (termasuk arahan untuk menggunakan modul ALA): https://github.com/TsingZ0/FedALA​

Kertas kerja ini mencadangkan kaedah pengagregatan tempatan adaptif untuk pembelajaran bersekutu bagi menangani masalah heterogeniti statistik dalam pembelajaran bersekutu dengan secara automatik menangkap maklumat yang diperlukan oleh pelanggan daripada model global. Penulis membandingkan 11 model SOTA dan mencapai prestasi cemerlang sebanyak 3.27% melebihi kaedah optimum. Penulis menggunakan modul pengagregatan tempatan adaptif kepada kaedah pembelajaran bersekutu yang lain dan mencapai peningkatan sehingga 24.19%.

1 Pengenalan

Pembelajaran Bersekutu (FL) membantu orang ramai memahami sepenuhnya keperluan privasi pengguna dengan mengekalkan data privasi pengguna secara setempat tanpa menyebarkannya data. Walau bagaimanapun, oleh kerana data antara pelanggan tidak dapat dilihat, kepelbagaian statistik data (data tidak bebas dan teragih sama (bukan IID) dan ketidakseimbangan volum data) telah menjadi salah satu cabaran besar FL. Kepelbagaian statistik data menyukarkan kaedah pembelajaran bersekutu tradisional (seperti FedAvg, dll.) untuk mendapatkan satu model global yang sesuai untuk setiap pelanggan melalui latihan proses FL.

Dalam beberapa tahun kebelakangan ini, kaedah pembelajaran bersekutu diperibadikan (pFL) telah mendapat perhatian yang semakin meningkat kerana keupayaannya untuk mengatasi kepelbagaian statistik data. Tidak seperti FL tradisional, yang mencari model global berkualiti tinggi, pendekatan pFL bertujuan untuk melatih model diperibadikan yang sesuai untuk setiap pelanggan dengan kuasa pengkomputeran kolaboratif pembelajaran bersekutu. Penyelidikan pFL sedia ada mengenai model pengagregatan pada pelayan boleh dibahagikan kepada tiga kategori berikut:

(1) Kaedah untuk mempelajari model global tunggal dan memperhalusinya, termasuk Per-FedAvg dan FedRep;

(2) Kaedah untuk mempelajari model pemperibadian tambahan, termasuk pFedMe dan Ditto; kaedah pengagregatan tempatan) untuk mempelajari model tempatan, termasuk FedAMP, FedPHP, FedFomo, APPLE dan PartialFed.

Kaedah pFL dalam kategori (1) dan (2) menggunakan semua maklumat dalam model global untuk pemulaan tempatan (merujuk kepada memulakan model tempatan sebelum latihan tempatan pada setiap lelaran). Walau bagaimanapun, dalam model global, hanya maklumat yang meningkatkan kualiti model tempatan (maklumat yang diperlukan oleh pelanggan yang memenuhi matlamat latihan tempatan) yang bermanfaat kepada pelanggan. Model global tidak digeneralisasikan dengan baik kerana ia mengandungi maklumat yang diperlukan dan tidak diperlukan oleh pelanggan tunggal. Oleh itu, penyelidik mencadangkan kaedah pFL dalam kategori (3) untuk menangkap maklumat yang diperlukan oleh setiap pelanggan dalam model global melalui pengagregatan diperibadikan. Walau bagaimanapun, kaedah pFL dalam kategori (3) masih wujud (a) tidak menganggap matlamat latihan tempatan pelanggan (seperti FedAMP dan FedPHP), (b) mempunyai kos pengiraan dan komunikasi yang tinggi (seperti FedFomo dan APPLE), (c ) privasi Isu seperti kebocoran (seperti FedFomo dan APPLE) dan (d) ketidakpadanan antara pengagregatan diperibadikan dan sasaran latihan tempatan (seperti PartialFed). Tambahan pula, memandangkan kaedah ini membuat pengubahsuaian yang besar pada proses FL, kaedah pengagregatan diperibadikan yang mereka gunakan tidak boleh digunakan secara langsung dalam kebanyakan kaedah FL sedia ada.

Untuk menangkap maklumat yang diperlukan oleh pelanggan dengan tepat daripada model global tanpa meningkatkan kos komunikasi dalam setiap lelaran berbanding FedAvg, penulis mencadangkan kaedah untuk pembelajaran persekutuan Adaptive Local Aggregation Kaedah (FedALA). Seperti yang ditunjukkan dalam Rajah 1, FedALA menangkap maklumat yang diperlukan dalam model global dengan mengagregat model global dengan model tempatan melalui modul pengagregatan tempatan adaptif (ALA) sebelum setiap latihan tempatan. Memandangkan FedALA hanya menggunakan ALA untuk mengubah suai proses pemulaan model tempatan dalam setiap lelaran berbanding dengan FedAvg, tanpa mengubah proses FL lain, ALA boleh digunakan secara langsung pada kebanyakan kaedah FL sedia ada yang lain untuk meningkatkan prestasi keperibadian mereka.

Rajah 1: Proses pembelajaran setempat pada klien dalam lelaran pertama

2 Kaedah

2.1 Adaptif Pengagregatan Setempat (ALA)

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Rajah 2: Proses Pengagregatan Setempat Suai (ALA)

Proses pengagregatan tempatan adaptif (ALA) ditunjukkan dalam Rajah 2. Berbanding dengan pembelajaran bersekutu tradisional, model global yang dimuat turun ditimpa terus dengan model tempatan untuk mendapatkan model permulaan tempatan Dengan cara (iaitu, ), FedALA melaksanakan pengagregatan setempat adaptif dengan mempelajari pemberat pengagregatan setempat untuk setiap parameter.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif


Antaranya, penulis menyebut item tersebut Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif "renew" . Di samping itu, penulis melaksanakan penyelarasan melalui kaedah pemangkasan berat mengikut unsur Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif dan mengehadkan nilai dalam Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif kepada [0,1].

Oleh kerana rangkaian lapisan bawah rangkaian neural dalam (DNN) cenderung untuk mempelajari secara relatif maklumat umum daripada lapisan yang lebih tinggi, dan maklumat umum ialah maklumat yang diperlukan oleh setiap model tempatan, jadi Kebanyakan maklumat dalam rangkaian peringkat rendah dalam model global adalah konsisten dengan maklumat yang diperlukan dalam rangkaian peringkat rendah dalam model tempatan. Untuk mengurangkan kos pengiraan yang diperlukan untuk mempelajari berat pengagregatan tempatan, penulis memperkenalkan hiperparameter p untuk mengawal skop ALA, supaya parameter rangkaian lapisan bawah dalam model global secara langsung meliputi rangkaian lapisan bawah dalam model tempatan, dan hanya dalam lapisan yang lebih tinggi Dayakan ALA.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

di mana, Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif mewakili bilangan lapisan rangkaian saraf dalam Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif ( atau bilangan blok rangkaian saraf), Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif selaras dengan bentuk rangkaian peringkat rendah dalam Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif dan Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif ialah konsisten dengan seluruh Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif Rangkaian peringkat tinggi lapisan p mempunyai bentuk yang sama.

Pengarang memulakan semua nilai dalam Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif kepada 1 dan mengemas kini Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif berdasarkan Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif lama semasa setiap pusingan permulaan setempat. Untuk mengurangkan lagi kos pengiraan, penulis menggunakan pensampelan rawak s

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

, di mana Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif adalah pembelajaran daripada kemas kini Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif Kadar. Dalam proses pembelajaran Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif, pengarang membekukan parameter lain yang boleh dilatih kecuali Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Rajah 3: Lengkung pembelajaran klien 8 pada set data MNIST dan Cifar10

Dengan memilih nilai p yang lebih kecil, parameter yang diperlukan untuk latihan dalam ALA boleh dikurangkan dengan banyak tanpa menjejaskan prestasi FedALA. Tambahan pula, seperti yang ditunjukkan dalam Rajah 3, penulis memerhatikan bahawa sebaik sahaja ia dilatih untuk menumpu dalam latihan pertama Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif, ia tidak memberi kesan yang besar kepada kualiti model tempatan walaupun Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif dilatih dalam lelaran berikutnya. Iaitu, setiap pelanggan boleh menggunakan semula Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif lama untuk menangkap maklumat yang diperlukan. Penulis menggunakan kaedah penalaan halus Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif dalam lelaran berikutnya untuk mengurangkan kos pengiraan.

2.2 Analisis ALA

Tanpa menjejaskan analisis, demi kesederhanaan, penulis mengabaikan Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif dan menganggap Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif. Mengikut formula di atas, kita boleh mendapatkan Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif, dengan Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif mewakili Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif. Pengarang boleh memikirkan untuk mengemas kini Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif dalam ALA sebagai mengemas kini Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Istilah kecerunan Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif ialah unsur berskala demi unsur dalam setiap pusingan. Berbeza daripada kaedah latihan model tempatan (atau penalaan halus), proses kemas kini Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif di atas boleh melihat maklumat biasa dalam model global. Di antara pusingan lelaran yang berbeza, Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif yang berubah secara dinamik memperkenalkan maklumat dinamik ke dalam modul ALA, menjadikannya mudah untuk FedALA menyesuaikan diri dengan persekitaran yang kompleks.

3 Eksperimen

Pengarang menggunakan ResNet-18 pada set data Tiny-ImageNet dalam persekitaran heterogen data praktikal untuk membandingkan hiperparameter s dan p Penyelidikan mengenai kesan FedALA ditunjukkan dalam Jadual 1. Untuk s, menggunakan lebih banyak sampel data latihan tempatan secara rawak untuk pembelajaran modul ALA boleh menjadikan model diperibadikan berprestasi lebih baik, tetapi ia juga meningkatkan kos pengiraan. Apabila menggunakan ALA, saiz s boleh dilaraskan berdasarkan kuasa pengkomputeran setiap pelanggan. Seperti yang dapat dilihat daripada jadual, FedALA masih mempunyai prestasi cemerlang walaupun menggunakan s yang sangat kecil (seperti s=5). Untuk p, nilai p yang berbeza hampir tidak memberi kesan ke atas prestasi model yang diperibadikan, tetapi terdapat perbezaan besar dalam kos pengiraan. Fenomena ini juga menunjukkan dari satu aspek keberkesanan kaedah seperti FedRep, yang membahagikan model dan mengekalkan lapisan rangkaian saraf dekat dengan output tanpa memuat naiknya kepada klien. Apabila menggunakan ALA, kita boleh menggunakan nilai p yang lebih kecil dan sesuai untuk mengurangkan lagi kos pengiraan sambil memastikan keupayaan prestasi model diperibadikan.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Jadual 1: Penyelidikan tentang hiperparameter dan kesannya terhadap FedALA

Penulis membandingkan dan menganalisis secara terperinci FedALA dengan 11 kaedah SOTA dalam persekitaran heterogen data patologi dan persekitaran heterogen data praktikal. Seperti yang ditunjukkan dalam Jadual 2, data menunjukkan bahawa FedALA mengatasi 11 kaedah SOTA ini dalam kes ini, di mana "TINY" bermaksud menggunakan CNN 4 lapisan pada Tiny-ImageNet. Contohnya, FedALA mengatasi garis dasar optimum sebanyak 3.27% dalam kes TINY.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Jadual 2: Keputusan eksperimen di bawah persekitaran heterogen data patologi dan sebenar

Selain itu, pengarang Prestasi FedALA juga dinilai di bawah persekitaran heterogen yang berbeza dan jumlah bilangan pelanggan. Seperti yang ditunjukkan dalam Jadual 3, FedALA masih mengekalkan prestasi cemerlang di bawah keadaan ini.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Jadual 3: Keputusan eksperimen lain

Eksperimen berdasarkan Jadual 3 Akibatnya, menggunakan modul ALA kepada kaedah lain boleh mencapai peningkatan sehingga 24.19%.

Akhir sekali, penulis juga menggambarkan kesan penambahan modul ALA pada latihan model dalam proses FL asal pada MNIST, seperti yang ditunjukkan dalam Rajah 4. Apabila ALA tidak diaktifkan, trajektori latihan model adalah konsisten dengan menggunakan FedAvg. Sebaik sahaja ALA diaktifkan, model boleh mengoptimumkan terus ke arah matlamat optimum dengan maklumat yang diperlukan untuk latihannya ditangkap dalam model global.

Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif

Rajah 4: Visualisasi trajektori latihan model pada klien 4

Atas ialah kandungan terperinci Melepasi SOTA sebanyak 3.27%, Shanghai Jiao Tong University dan lain-lain mencadangkan kaedah baharu pengagregatan tempatan adaptif. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Tetapan grafik terbaik
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Cara Memperbaiki Audio Jika anda tidak dapat mendengar sesiapa
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌

Alat panas

Notepad++7.3.1

Notepad++7.3.1

Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina

SublimeText3 versi Cina

Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

SublimeText3 versi Mac

SublimeText3 versi Mac

Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Gunakan ddrescue untuk memulihkan data pada Linux Gunakan ddrescue untuk memulihkan data pada Linux Mar 20, 2024 pm 01:37 PM

DDREASE ialah alat untuk memulihkan data daripada fail atau peranti sekat seperti cakera keras, SSD, cakera RAM, CD, DVD dan peranti storan USB. Ia menyalin data dari satu peranti blok ke peranti lain, meninggalkan blok data yang rosak dan hanya memindahkan blok data yang baik. ddreasue ialah alat pemulihan yang berkuasa yang automatik sepenuhnya kerana ia tidak memerlukan sebarang gangguan semasa operasi pemulihan. Selain itu, terima kasih kepada fail peta ddasue, ia boleh dihentikan dan disambung semula pada bila-bila masa. Ciri-ciri utama lain DDREASE adalah seperti berikut: Ia tidak menimpa data yang dipulihkan tetapi mengisi jurang sekiranya pemulihan berulang. Walau bagaimanapun, ia boleh dipotong jika alat itu diarahkan untuk melakukannya secara eksplisit. Pulihkan data daripada berbilang fail atau blok kepada satu

Sumber terbuka! Di luar ZoeDepth! DepthFM: Anggaran kedalaman monokular yang cepat dan tepat! Sumber terbuka! Di luar ZoeDepth! DepthFM: Anggaran kedalaman monokular yang cepat dan tepat! Apr 03, 2024 pm 12:04 PM

0. Apakah fungsi artikel ini? Kami mencadangkan DepthFM: model anggaran kedalaman monokular generatif yang serba boleh dan pantas. Sebagai tambahan kepada tugas anggaran kedalaman tradisional, DepthFM juga menunjukkan keupayaan terkini dalam tugas hiliran seperti mengecat kedalaman. DepthFM cekap dan boleh mensintesis peta kedalaman dalam beberapa langkah inferens. Mari kita baca karya ini bersama-sama ~ 1. Tajuk maklumat kertas: DepthFM: FastMonocularDepthEstimationwithFlowMatching Pengarang: MingGui, JohannesS.Fischer, UlrichPrestel, PingchuanMa, Dmytr

Google gembira: prestasi JAX mengatasi Pytorch dan TensorFlow! Ia mungkin menjadi pilihan terpantas untuk latihan inferens GPU Google gembira: prestasi JAX mengatasi Pytorch dan TensorFlow! Ia mungkin menjadi pilihan terpantas untuk latihan inferens GPU Apr 01, 2024 pm 07:46 PM

Prestasi JAX, yang dipromosikan oleh Google, telah mengatasi Pytorch dan TensorFlow dalam ujian penanda aras baru-baru ini, menduduki tempat pertama dalam 7 penunjuk. Dan ujian tidak dilakukan pada TPU dengan prestasi JAX terbaik. Walaupun dalam kalangan pembangun, Pytorch masih lebih popular daripada Tensorflow. Tetapi pada masa hadapan, mungkin lebih banyak model besar akan dilatih dan dijalankan berdasarkan platform JAX. Model Baru-baru ini, pasukan Keras menanda aras tiga hujung belakang (TensorFlow, JAX, PyTorch) dengan pelaksanaan PyTorch asli dan Keras2 dengan TensorFlow. Pertama, mereka memilih satu set arus perdana

Kelajuan Internet Data Selular Perlahan pada iPhone: Pembetulan Kelajuan Internet Data Selular Perlahan pada iPhone: Pembetulan May 03, 2024 pm 09:01 PM

Menghadapi ketinggalan, sambungan data mudah alih perlahan pada iPhone? Biasanya, kekuatan internet selular pada telefon anda bergantung pada beberapa faktor seperti rantau, jenis rangkaian selular, jenis perayauan, dsb. Terdapat beberapa perkara yang boleh anda lakukan untuk mendapatkan sambungan Internet selular yang lebih pantas dan boleh dipercayai. Betulkan 1 – Paksa Mulakan Semula iPhone Kadangkala, paksa memulakan semula peranti anda hanya menetapkan semula banyak perkara, termasuk sambungan selular. Langkah 1 – Hanya tekan kekunci naikkan kelantangan sekali dan lepaskan. Seterusnya, tekan kekunci Turun Kelantangan dan lepaskannya semula. Langkah 2 - Bahagian seterusnya proses adalah untuk menahan butang di sebelah kanan. Biarkan iPhone selesai dimulakan semula. Dayakan data selular dan semak kelajuan rangkaian. Semak semula Betulkan 2 – Tukar mod data Walaupun 5G menawarkan kelajuan rangkaian yang lebih baik, ia berfungsi lebih baik apabila isyarat lemah

Daya hidup kecerdasan super membangkitkan! Tetapi dengan kedatangan AI yang mengemas kini sendiri, ibu tidak perlu lagi bimbang tentang kesesakan data Daya hidup kecerdasan super membangkitkan! Tetapi dengan kedatangan AI yang mengemas kini sendiri, ibu tidak perlu lagi bimbang tentang kesesakan data Apr 29, 2024 pm 06:55 PM

Saya menangis hingga mati. Dunia sedang membina model besar. Data di Internet tidak mencukupi. Model latihan kelihatan seperti "The Hunger Games", dan penyelidik AI di seluruh dunia bimbang tentang cara memberi makan data ini kepada pemakan yang rakus. Masalah ini amat ketara dalam tugas berbilang modal. Pada masa mereka mengalami kerugian, pasukan pemula dari Jabatan Universiti Renmin China menggunakan model baharu mereka sendiri untuk menjadi yang pertama di China untuk menjadikan "suapan data yang dijana model itu sendiri" menjadi kenyataan. Selain itu, ia merupakan pendekatan serampang dua mata dari segi pemahaman dan sisi penjanaan Kedua-dua pihak boleh menjana data baharu berbilang modal yang berkualiti tinggi dan memberikan maklum balas data kepada model itu sendiri. Apakah model? Awaker 1.0, model berbilang modal besar yang baru sahaja muncul di Forum Zhongguancun. Siapa pasukan itu? Enjin Sophon. Diasaskan oleh Gao Yizhao, pelajar kedoktoran di Sekolah Kecerdasan Buatan Hillhouse Universiti Renmin.

Tentera Udara A.S. mempamerkan jet pejuang AI pertamanya dengan profil tinggi! Menteri secara peribadi menjalankan pandu uji tanpa campur tangan semasa keseluruhan proses, dan 100,000 baris kod telah diuji selama 21 kali. Tentera Udara A.S. mempamerkan jet pejuang AI pertamanya dengan profil tinggi! Menteri secara peribadi menjalankan pandu uji tanpa campur tangan semasa keseluruhan proses, dan 100,000 baris kod telah diuji selama 21 kali. May 07, 2024 pm 05:00 PM

Baru-baru ini, bulatan tentera telah terharu dengan berita: jet pejuang tentera AS kini boleh melengkapkan pertempuran udara automatik sepenuhnya menggunakan AI. Ya, baru-baru ini, jet pejuang AI tentera AS telah didedahkan buat pertama kali, mendedahkan misterinya. Nama penuh pesawat pejuang ini ialah Variable Stability Simulator Test Aircraft (VISTA). Ia diterbangkan sendiri oleh Setiausaha Tentera Udara AS untuk mensimulasikan pertempuran udara satu lawan satu. Pada 2 Mei, Setiausaha Tentera Udara A.S. Frank Kendall berlepas menggunakan X-62AVISTA di Pangkalan Tentera Udara Edwards Ambil perhatian bahawa semasa penerbangan selama satu jam, semua tindakan penerbangan telah diselesaikan secara autonomi oleh AI! Kendall berkata - "Sejak beberapa dekad yang lalu, kami telah memikirkan tentang potensi tanpa had pertempuran udara-ke-udara autonomi, tetapi ia sentiasa kelihatan di luar jangkauan." Namun kini,

Robot pertama yang menyelesaikan tugas manusia secara autonomi muncul, dengan lima jari fleksibel dan kelajuan manusia luar biasa, dan model besar menyokong latihan angkasa maya Robot pertama yang menyelesaikan tugas manusia secara autonomi muncul, dengan lima jari fleksibel dan kelajuan manusia luar biasa, dan model besar menyokong latihan angkasa maya Mar 11, 2024 pm 12:10 PM

Minggu ini, FigureAI, sebuah syarikat robotik yang dilaburkan oleh OpenAI, Microsoft, Bezos, dan Nvidia, mengumumkan bahawa ia telah menerima hampir $700 juta dalam pembiayaan dan merancang untuk membangunkan robot humanoid yang boleh berjalan secara bebas dalam tahun hadapan. Dan Optimus Prime Tesla telah berulang kali menerima berita baik. Tiada siapa yang meragui bahawa tahun ini akan menjadi tahun apabila robot humanoid meletup. SanctuaryAI, sebuah syarikat robotik yang berpangkalan di Kanada, baru-baru ini mengeluarkan robot humanoid baharu, Phoenix. Pegawai mendakwa bahawa ia boleh menyelesaikan banyak tugas secara autonomi pada kelajuan yang sama seperti manusia. Pheonix, robot pertama di dunia yang boleh menyelesaikan tugas secara autonomi pada kelajuan manusia, boleh mencengkam, menggerakkan dan meletakkan setiap objek secara elegan di sisi kiri dan kanannya dengan perlahan. Ia boleh mengenal pasti objek secara autonomi

Dokumen berbilang modal Alibaba 7B memahami model besar memenangi SOTA baharu Dokumen berbilang modal Alibaba 7B memahami model besar memenangi SOTA baharu Apr 02, 2024 am 11:31 AM

SOTA baharu untuk keupayaan memahami dokumen multimodal! Pasukan Alibaba mPLUG mengeluarkan kerja sumber terbuka terkini mPLUG-DocOwl1.5, yang mencadangkan satu siri penyelesaian untuk menangani empat cabaran utama pengecaman teks imej resolusi tinggi, pemahaman struktur dokumen am, arahan mengikut dan pengenalan pengetahuan luaran. Tanpa berlengah lagi, mari kita lihat kesannya dahulu. Pengecaman satu klik dan penukaran carta dengan struktur kompleks ke dalam format Markdown: Carta gaya berbeza tersedia: Pengecaman dan kedudukan teks yang lebih terperinci juga boleh dikendalikan dengan mudah: Penjelasan terperinci tentang pemahaman dokumen juga boleh diberikan: Anda tahu, "Pemahaman Dokumen " pada masa ini Senario penting untuk pelaksanaan model bahasa yang besar. Terdapat banyak produk di pasaran untuk membantu pembacaan dokumen. Sesetengah daripada mereka menggunakan sistem OCR untuk pengecaman teks dan bekerjasama dengan LLM untuk pemprosesan teks.

See all articles