Jadual Kandungan
Apakah yang kita maksudkan dengan "tepi" " >Apakah yang kita maksudkan dengan "tepi"
Latensi Data dan Lebar Jalur di Tepi Perindustrian " >Latensi Data dan Lebar Jalur di Tepi Perindustrian
Impak kecerdasan buatan pada beban pemprosesan tepi" >Impak kecerdasan buatan pada beban pemprosesan tepi
Membawa kuasa pusat data ke tepi " >Membawa kuasa pusat data ke tepi
Perkakasan Edge " >Perkakasan Edge
Mulakan lebih awal pada AI di tepi" >Mulakan lebih awal pada AI di tepi
Rumah Peranti teknologi AI Cara kecerdasan buatan membentuk semula pengkomputeran tepi

Cara kecerdasan buatan membentuk semula pengkomputeran tepi

Apr 28, 2023 pm 07:01 PM
AI pusat data

Cara kecerdasan buatan membentuk semula pengkomputeran tepi

Berapa banyak kuasa pengkomputeran yang diperlukan di tepi? Berapa banyak memori dan storan yang mencukupi untuk AI tepi? Apabila AI membuka pintu kepada aplikasi inovatif yang memerlukan pemprosesan, penyimpanan dan memori yang lebih dan lebih pantas, keperluan minimum semakin meningkat. Bagaimanakah memori dan teknologi storan hari ini memenuhi keperluan ketat aplikasi kelebihan baharu yang mencabar ini?

Apakah yang kita maksudkan dengan "tepi"

Tepi termasuk mana-mana aplikasi yang diedarkan di mana pemprosesan tertentu berlaku di luar pelayan, walaupun data berakhir dihantar ke pusat data. Idea utamanya adalah untuk mengelak daripada menghantar semua data melalui Internet ke pelayan untuk diproses, tetapi sebaliknya membenarkan data diproses lebih dekat dengan lokasi pengumpulan, mengelakkan isu kependaman yang disebabkan oleh perjalanan pergi balik data yang panjang dan mencapai hampir masa nyata On -tindak balas tapak.

Tepi dibahagikan secara kasar berdasarkan jarak dari pelayan ke titik akhir. Apa yang dipanggil near edge boleh termasuk aplikasi yang berdekatan dengan pusat data, mungkin juga dalam bangunan yang sama. Dalam aplikasi seperti kereta pandu sendiri, trend ini melampaui satu lagi. Ciri bertindih ialah sistem tepi memproses data yang secara tradisinya dihantar ke pusat data, yang mempunyai aplikasi praktikal dalam banyak industri.

Latensi Data dan Lebar Jalur di Tepi Perindustrian

Dalam aplikasi perindustrian, komputer tepi selalunya direka bentuk untuk menerima input daripada penderia atau peranti lain, dan melaksanakan operasi yang sepadan pada input. Contohnya, penyelenggaraan pencegahan mengambil bacaan akustik, getaran, suhu atau penderia tekanan dan menganalisisnya untuk mengenal pasti anomali yang menunjukkan kerosakan kecil pada mesin.

Mesin boleh dibawa ke luar talian serta-merta, atau jika perlu, untuk penyelenggaraan sebelum kegagalan bencana berlaku. Masa tindak balas mesti pantas tetapi volum data rendah. Walau bagaimanapun, kecerdasan buatan memberi tekanan pada sistem kelebihan ini.

Impak kecerdasan buatan pada beban pemprosesan tepi

Kecerdasan buatan membawa beban yang berbeza kepada sistem komputer. Beban kerja AI memerlukan pemproses yang lebih pantas, lebih banyak memori dan GPU yang berkuasa. Sebagai contoh, AOI telah digunakan secara meluas dalam pemeriksaan PCB, menggunakan input video daripada kamera berkelajuan tinggi untuk mengenal pasti komponen yang hilang dan kecacatan kualiti. Malah, teknologi pemeriksaan visual yang serupa sedang digunakan secara meluas dalam industri yang berbeza seperti pertanian, di mana ia boleh digunakan untuk mengenal pasti kecacatan dan perubahan warna dalam produk.

Melaksanakan algoritma kompleks pada input video memerlukan kuasa pemprosesan selari bagi kad GPU yang haus kuasa, lebih banyak memori untuk inferens AI yang cekap dan tepat, dan lebih banyak ruang storan untuk data tambahan, tetapi ini sudah wujud di pusat data.

Membawa kuasa pusat data ke tepi

Pada asasnya, untuk memproses tugas AI di tepi, kami merapatkan kelebihan dan jurang antara pusat data. Pelayan tersembunyi dalam pusat data terkawal suhu mempunyai terabait memori dan storan besar untuk mengendalikan beban volum tinggi tertentu dan memastikan sistem berfungsi dengan cepat.

Tetapi apabila membuat inferens jauh dari pusat data, keadaannya berbeza. Komputer tepi tidak menyukai persekitaran yang indah ini dan mesti dapat menahan persekitaran yang keras. Kelebihan memerlukan perkakasan yang berusaha untuk prestasi maksimum sambil mengambil kira keadaan yang kurang ideal.

Perkakasan Edge

Menambah AI di pinggir perindustrian memerlukan perkakasan yang sesuai untuk tugas itu. Komputer industri yang boleh mengendalikan suhu melampau, getaran dan kekangan ruang adalah satu kemestian. Khususnya, tiga perkara diperlukan untuk sistem penglihatan, iaitu aplikasi AI yang paling prolifik, memori untuk menyokong inferens AI yang cekap, penyimpanan untuk data input dan PoE untuk menyokong penambahan kamera.

DDR5 terkini boleh mendapatkan lebih banyak memori dalam ruang yang lebih kecil. Ia menawarkan kapasiti memori yang lebih tinggi di bahagian tepi, dengan dua kali ganda kelajuan dan empat kali ganda kapasiti DDR4, menjadikan penggunaan ruang dan sumber yang ada dengan lebih cekap dalam jejak yang sama.

Aplikasi Edge perlu mengembangkan kapasiti kerana data mesti sampai ke pelayan atau kekal di tepi untuk satu tempoh masa, sekali gus memerlukan SSD sebagai storan sementara. Peralihan daripada SATA kepada NVMe telah membuka pintu kepada kelajuan dan prestasi yang lebih tinggi, dan SSD NVMe PCIe G4X4 yang akan datang ialah SSD terbaharu dalam barisan produk Cervoz, memberikan prestasi industri untuk aplikasi ini.

Sistem penglihatan memerlukan kamera. PoE+ ialah cara termudah dan paling berkesan untuk menambah kamera berkelajuan tinggi pada sistem anda, memberikan kuasa dan penghantaran data melalui satu kabel. Kad pengembangan PCIe modular PoE Ethernet Cervoz menambah fungsi ini dengan pemalam kuasa kecil.

Mulakan lebih awal pada AI di tepi

Untuk perniagaan yang ingin memperoleh kelebihan, komputer industri ditambah dengan memori gred industri dan Gabungan storan memberikan kebolehpercayaan untuk menahan persekitaran kelebihan yang keras dan keupayaan yang diperlukan untuk membolehkan teknologi AI generasi akan datang di pinggir rangkaian.

Atas ialah kandungan terperinci Cara kecerdasan buatan membentuk semula pengkomputeran tepi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
1 bulan yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Tetapan grafik terbaik
1 bulan yang lalu By 尊渡假赌尊渡假赌尊渡假赌
Akan R.E.P.O. Ada Crossplay?
1 bulan yang lalu By 尊渡假赌尊渡假赌尊渡假赌

Alat panas

Notepad++7.3.1

Notepad++7.3.1

Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina

SublimeText3 versi Cina

Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

SublimeText3 versi Mac

SublimeText3 versi Mac

Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Bytedance Cutting melancarkan keahlian super SVIP: 499 yuan untuk langganan tahunan berterusan, menyediakan pelbagai fungsi AI Bytedance Cutting melancarkan keahlian super SVIP: 499 yuan untuk langganan tahunan berterusan, menyediakan pelbagai fungsi AI Jun 28, 2024 am 03:51 AM

Laman web ini melaporkan pada 27 Jun bahawa Jianying ialah perisian penyuntingan video yang dibangunkan oleh FaceMeng Technology, anak syarikat ByteDance Ia bergantung pada platform Douyin dan pada asasnya menghasilkan kandungan video pendek untuk pengguna platform tersebut Windows , MacOS dan sistem pengendalian lain. Jianying secara rasmi mengumumkan peningkatan sistem keahliannya dan melancarkan SVIP baharu, yang merangkumi pelbagai teknologi hitam AI, seperti terjemahan pintar, penonjolan pintar, pembungkusan pintar, sintesis manusia digital, dsb. Dari segi harga, yuran bulanan untuk keratan SVIP ialah 79 yuan, yuran tahunan ialah 599 yuan (nota di laman web ini: bersamaan dengan 49.9 yuan sebulan), langganan bulanan berterusan ialah 59 yuan sebulan, dan langganan tahunan berterusan ialah 499 yuan setahun (bersamaan dengan 41.6 yuan sebulan) . Di samping itu, pegawai yang dipotong juga menyatakan bahawa untuk meningkatkan pengalaman pengguna, mereka yang telah melanggan VIP asal

Pembantu pengekodan AI yang ditambah konteks menggunakan Rag dan Sem-Rag Pembantu pengekodan AI yang ditambah konteks menggunakan Rag dan Sem-Rag Jun 10, 2024 am 11:08 AM

Tingkatkan produktiviti, kecekapan dan ketepatan pembangun dengan menggabungkan penjanaan dipertingkatkan semula dan memori semantik ke dalam pembantu pengekodan AI. Diterjemah daripada EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG, pengarang JanakiramMSV. Walaupun pembantu pengaturcaraan AI asas secara semulajadi membantu, mereka sering gagal memberikan cadangan kod yang paling relevan dan betul kerana mereka bergantung pada pemahaman umum bahasa perisian dan corak penulisan perisian yang paling biasa. Kod yang dijana oleh pembantu pengekodan ini sesuai untuk menyelesaikan masalah yang mereka bertanggungjawab untuk menyelesaikannya, tetapi selalunya tidak mematuhi piawaian pengekodan, konvensyen dan gaya pasukan individu. Ini selalunya menghasilkan cadangan yang perlu diubah suai atau diperhalusi agar kod itu diterima ke dalam aplikasi

Bolehkah penalaan halus benar-benar membolehkan LLM mempelajari perkara baharu: memperkenalkan pengetahuan baharu boleh menjadikan model menghasilkan lebih banyak halusinasi Bolehkah penalaan halus benar-benar membolehkan LLM mempelajari perkara baharu: memperkenalkan pengetahuan baharu boleh menjadikan model menghasilkan lebih banyak halusinasi Jun 11, 2024 pm 03:57 PM

Model Bahasa Besar (LLM) dilatih pada pangkalan data teks yang besar, di mana mereka memperoleh sejumlah besar pengetahuan dunia sebenar. Pengetahuan ini dibenamkan ke dalam parameter mereka dan kemudiannya boleh digunakan apabila diperlukan. Pengetahuan tentang model ini "diperbaharui" pada akhir latihan. Pada akhir pra-latihan, model sebenarnya berhenti belajar. Selaraskan atau perhalusi model untuk mempelajari cara memanfaatkan pengetahuan ini dan bertindak balas dengan lebih semula jadi kepada soalan pengguna. Tetapi kadangkala pengetahuan model tidak mencukupi, dan walaupun model boleh mengakses kandungan luaran melalui RAG, ia dianggap berfaedah untuk menyesuaikan model kepada domain baharu melalui penalaan halus. Penalaan halus ini dilakukan menggunakan input daripada anotasi manusia atau ciptaan LLM lain, di mana model menemui pengetahuan dunia sebenar tambahan dan menyepadukannya

Tujuh Soalan Temuduga Teknikal GenAI & LLM yang Cool Tujuh Soalan Temuduga Teknikal GenAI & LLM yang Cool Jun 07, 2024 am 10:06 AM

Untuk mengetahui lebih lanjut tentang AIGC, sila layari: 51CTOAI.x Komuniti https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou berbeza daripada bank soalan tradisional yang boleh dilihat di mana-mana sahaja di Internet memerlukan pemikiran di luar kotak. Model Bahasa Besar (LLM) semakin penting dalam bidang sains data, kecerdasan buatan generatif (GenAI) dan kecerdasan buatan. Algoritma kompleks ini meningkatkan kemahiran manusia dan memacu kecekapan dan inovasi dalam banyak industri, menjadi kunci kepada syarikat untuk kekal berdaya saing. LLM mempunyai pelbagai aplikasi Ia boleh digunakan dalam bidang seperti pemprosesan bahasa semula jadi, penjanaan teks, pengecaman pertuturan dan sistem pengesyoran. Dengan belajar daripada sejumlah besar data, LLM dapat menjana teks

Samsung memperkenalkan SSD gred pusat data BM1743: dilengkapi dengan v7 QLC V-NAND dan menyokong PCIe 5.0 Samsung memperkenalkan SSD gred pusat data BM1743: dilengkapi dengan v7 QLC V-NAND dan menyokong PCIe 5.0 Jun 18, 2024 pm 04:15 PM

Menurut berita dari laman web ini pada 18 Jun, Samsung Semiconductor baru-baru ini memperkenalkan pemacu keadaan pepejal gred data pusat generasi seterusnya BM1743 dilengkapi dengan memori kilat QLC (v7) terbaharunya di blog teknologinya. ▲Samsung QLC pemacu keadaan pepejal gred data pusat BM1743 Menurut TrendForce pada bulan April, dalam bidang pemacu keadaan pepejal gred data pusat QLC, hanya Samsung dan Solidigm, anak syarikat SK Hynix, telah lulus pengesahan pelanggan perusahaan di masa itu. Berbanding dengan v5QLCV-NAND generasi sebelumnya (nota di tapak ini: Samsung v6V-NAND tidak mempunyai produk QLC), memori denyar Samsung v7QLCV-NAND telah hampir dua kali ganda bilangan lapisan susun, dan ketumpatan storan juga telah dipertingkatkan dengan banyak. Pada masa yang sama, kelancaran v7QLCV-NAND

Lima sekolah pembelajaran mesin yang anda tidak tahu Lima sekolah pembelajaran mesin yang anda tidak tahu Jun 05, 2024 pm 08:51 PM

Pembelajaran mesin ialah cabang penting kecerdasan buatan yang memberikan komputer keupayaan untuk belajar daripada data dan meningkatkan keupayaan mereka tanpa diprogramkan secara eksplisit. Pembelajaran mesin mempunyai pelbagai aplikasi dalam pelbagai bidang, daripada pengecaman imej dan pemprosesan bahasa semula jadi kepada sistem pengesyoran dan pengesanan penipuan, dan ia mengubah cara hidup kita. Terdapat banyak kaedah dan teori yang berbeza dalam bidang pembelajaran mesin, antaranya lima kaedah yang paling berpengaruh dipanggil "Lima Sekolah Pembelajaran Mesin". Lima sekolah utama ialah sekolah simbolik, sekolah sambungan, sekolah evolusi, sekolah Bayesian dan sekolah analogi. 1. Simbolisme, juga dikenali sebagai simbolisme, menekankan penggunaan simbol untuk penaakulan logik dan ekspresi pengetahuan. Aliran pemikiran ini percaya bahawa pembelajaran adalah proses penolakan terbalik, melalui sedia ada

Untuk menyediakan tanda aras dan sistem penilaian menjawab soalan saintifik dan kompleks baharu untuk model besar, UNSW, Argonne, University of Chicago dan institusi lain bersama-sama melancarkan rangka kerja SciQAG Untuk menyediakan tanda aras dan sistem penilaian menjawab soalan saintifik dan kompleks baharu untuk model besar, UNSW, Argonne, University of Chicago dan institusi lain bersama-sama melancarkan rangka kerja SciQAG Jul 25, 2024 am 06:42 AM

Editor |ScienceAI Question Answering (QA) set data memainkan peranan penting dalam mempromosikan penyelidikan pemprosesan bahasa semula jadi (NLP). Set data QA berkualiti tinggi bukan sahaja boleh digunakan untuk memperhalusi model, tetapi juga menilai dengan berkesan keupayaan model bahasa besar (LLM), terutamanya keupayaan untuk memahami dan menaakul tentang pengetahuan saintifik. Walaupun pada masa ini terdapat banyak set data QA saintifik yang meliputi bidang perubatan, kimia, biologi dan bidang lain, set data ini masih mempunyai beberapa kekurangan. Pertama, borang data adalah agak mudah, kebanyakannya adalah soalan aneka pilihan. Ia mudah dinilai, tetapi mengehadkan julat pemilihan jawapan model dan tidak dapat menguji sepenuhnya keupayaan model untuk menjawab soalan saintifik. Sebaliknya, Soal Jawab terbuka

Prestasi SOTA, kaedah AI ramalan pertalian protein-ligan pelbagai mod Xiamen, menggabungkan maklumat permukaan molekul buat kali pertama Prestasi SOTA, kaedah AI ramalan pertalian protein-ligan pelbagai mod Xiamen, menggabungkan maklumat permukaan molekul buat kali pertama Jul 17, 2024 pm 06:37 PM

Editor |. KX Dalam bidang penyelidikan dan pembangunan ubat, meramalkan pertalian pengikatan protein dan ligan dengan tepat dan berkesan adalah penting untuk pemeriksaan dan pengoptimuman ubat. Walau bagaimanapun, kajian semasa tidak mengambil kira peranan penting maklumat permukaan molekul dalam interaksi protein-ligan. Berdasarkan ini, penyelidik dari Universiti Xiamen mencadangkan rangka kerja pengekstrakan ciri berbilang mod (MFE) novel, yang buat pertama kalinya menggabungkan maklumat mengenai permukaan protein, struktur dan jujukan 3D, dan menggunakan mekanisme perhatian silang untuk membandingkan ciri modaliti yang berbeza penjajaran. Keputusan eksperimen menunjukkan bahawa kaedah ini mencapai prestasi terkini dalam meramalkan pertalian mengikat protein-ligan. Tambahan pula, kajian ablasi menunjukkan keberkesanan dan keperluan maklumat permukaan protein dan penjajaran ciri multimodal dalam rangka kerja ini. Penyelidikan berkaitan bermula dengan "S

See all articles