Rumah Peranti teknologi AI Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar

Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar

Jan 23, 2024 pm 01:06 PM
rangkaian saraf tiruan

Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar

Rangkaian saraf berkembar ialah rangkaian saraf dengan struktur dwi-cawangan, yang sering digunakan untuk pengukuran persamaan, pengelasan dan tugasan mendapatkan semula. Kedua-dua cabang rangkaian tersebut mempunyai struktur dan parameter yang sama. Selepas input melalui dua cawangan masing-masing, persamaan dikira melalui lapisan ukuran persamaan (seperti jarak Euclidean, jarak Manhattan, dll.). Semasa latihan, fungsi kehilangan kontrastif atau fungsi kehilangan tiga kali ganda biasanya digunakan.

Fungsi kehilangan kontras ialah fungsi kehilangan klasifikasi binari untuk rangkaian saraf Siam Ia bertujuan untuk memaksimumkan persamaan sampel yang serupa kepada hampir 1 dan persamaan jenis sampel yang berbeza kepada hampir 0. Ungkapan matematiknya adalah seperti berikut:

L_{con}(y,d)=ycdot d^2+(1-y)cdotmax(m-d,0)^2

Fungsi kehilangan ini digunakan untuk mengukur dua Persamaan antara sampel dioptimumkan mengikut kategori sampel. Antaranya, y mewakili sama ada sampel tergolong dalam kategori yang sama, d mewakili persamaan antara dua sampel, dan m mewakili nilai sempadan yang telah ditetapkan. Apabila y=1, matlamat fungsi kehilangan adalah untuk menjadikan d sekecil mungkin, walaupun dua sampel kategori yang sama lebih serupa. Pada masa ini, nilai fungsi kehilangan boleh dinyatakan dengan kuasa dua d, iaitu nilai fungsi kehilangan ialah d^2. Apabila y=0, matlamat fungsi kehilangan adalah untuk menjadikan d lebih besar daripada m, walaupun sampel dua kategori berbeza adalah tidak serupa yang mungkin. Pada masa ini, apabila d kurang daripada m, nilai fungsi kehilangan ialah d^2, menunjukkan persamaan antara sampel apabila d lebih besar daripada m, nilai fungsi kehilangan ialah 0, menunjukkan bahawa persamaan antara sampel telah melebihi tahap yang telah ditetapkan. Dengan mengandaikan nilai sempadan m, kerugian tidak lagi dikira

Fungsi kehilangan tiga kali ganda adalah fungsi kehilangan yang digunakan dalam rangkaian saraf berkembar Ia bertujuan untuk meminimumkan jarak antara sampel daripada jenis yang sama dan memaksimumkan jarak antara sampel yang berlainan jenis jarak antara. Ungkapan matematik bagi fungsi ini adalah seperti berikut:

L_{tri}(a,p,n)=maks(|f(a)-f(p)|^2-|f(a)-f( n )|^2+margin,0)

Antaranya, a mewakili sampel utama, p mewakili jenis sampel yang sama, n mewakili jenis sampel yang berbeza, f mewakili lapisan pengekstrakan ciri rangkaian saraf Siam , |cdot| mewakili jarak Euclidean, margin Mewakili nilai sempadan yang telah ditetapkan. Matlamat fungsi kehilangan adalah untuk menjadikan jarak antara sampel jenis yang sama sekecil mungkin, dan jarak antara sampel jenis yang berbeza seluas mungkin, dan lebih besar daripada margin. Apabila jarak antara sampel jenis yang sama adalah kurang daripada jarak sampel jenis yang berbeza tolak margin, nilai fungsi kehilangan ialah 0 apabila jarak sampel jenis yang sama lebih besar daripada jarak sampel jenis yang berbeza tolak margin, nilai fungsi kerugian ialah perbezaan antara dua jarak.

Fungsi kehilangan kontras dan fungsi kehilangan triplet kedua-duanya adalah fungsi kehilangan rangkaian saraf berkembar yang biasa digunakan. dalam ruang ciri. Dalam aplikasi praktikal, fungsi kehilangan yang sesuai boleh dipilih berdasarkan tugas dan set data tertentu, dan digabungkan dengan teknik lain (seperti peningkatan data, penyelarasan, dll.) untuk pengoptimuman model.

Atas ialah kandungan terperinci Penggunaan fungsi kehilangan biasa dalam rangkaian neural berkembar. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Tetapan grafik terbaik
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Cara Memperbaiki Audio Jika anda tidak dapat mendengar sesiapa
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌

Alat panas

Notepad++7.3.1

Notepad++7.3.1

Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina

SublimeText3 versi Cina

Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

SublimeText3 versi Mac

SublimeText3 versi Mac

Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Terokai konsep, perbezaan, kebaikan dan keburukan RNN, LSTM dan GRU Terokai konsep, perbezaan, kebaikan dan keburukan RNN, LSTM dan GRU Jan 22, 2024 pm 07:51 PM

Dalam data siri masa, terdapat kebergantungan antara pemerhatian, jadi ia tidak bebas antara satu sama lain. Walau bagaimanapun, rangkaian saraf tradisional menganggap setiap pemerhatian sebagai bebas, yang mengehadkan keupayaan model untuk memodelkan data siri masa. Untuk menyelesaikan masalah ini, Rangkaian Neural Berulang (RNN) telah diperkenalkan, yang memperkenalkan konsep ingatan untuk menangkap ciri dinamik data siri masa dengan mewujudkan kebergantungan antara titik data dalam rangkaian. Melalui sambungan berulang, RNN boleh menghantar maklumat sebelumnya ke dalam pemerhatian semasa untuk meramalkan nilai masa hadapan dengan lebih baik. Ini menjadikan RNN alat yang berkuasa untuk tugasan yang melibatkan data siri masa. Tetapi bagaimanakah RNN mencapai ingatan seperti ini? RNN merealisasikan ingatan melalui gelung maklum balas dalam rangkaian saraf Ini adalah perbezaan antara RNN dan rangkaian saraf tradisional.

Mengira operan titik terapung (FLOPS) untuk rangkaian saraf Mengira operan titik terapung (FLOPS) untuk rangkaian saraf Jan 22, 2024 pm 07:21 PM

FLOPS ialah salah satu piawaian untuk penilaian prestasi komputer, digunakan untuk mengukur bilangan operasi titik terapung sesaat. Dalam rangkaian saraf, FLOPS sering digunakan untuk menilai kerumitan pengiraan model dan penggunaan sumber pengkomputeran. Ia adalah penunjuk penting yang digunakan untuk mengukur kuasa pengkomputeran dan kecekapan komputer. Rangkaian saraf ialah model kompleks yang terdiri daripada berbilang lapisan neuron yang digunakan untuk tugas seperti klasifikasi data, regresi dan pengelompokan. Latihan dan inferens rangkaian saraf memerlukan sejumlah besar pendaraban matriks, konvolusi dan operasi pengiraan lain, jadi kerumitan pengiraan adalah sangat tinggi. FLOPS (FloatingPointOperationsperSecond) boleh digunakan untuk mengukur kerumitan pengiraan rangkaian saraf untuk menilai kecekapan penggunaan sumber pengiraan model. FLOP

Definisi dan analisis struktur rangkaian neural kabur Definisi dan analisis struktur rangkaian neural kabur Jan 22, 2024 pm 09:09 PM

Rangkaian saraf kabur ialah model hibrid yang menggabungkan logik kabur dan rangkaian saraf untuk menyelesaikan masalah kabur atau tidak pasti yang sukar dikendalikan dengan rangkaian saraf tradisional. Reka bentuknya diilhamkan oleh kekaburan dan ketidakpastian dalam kognisi manusia, jadi ia digunakan secara meluas dalam sistem kawalan, pengecaman corak, perlombongan data dan bidang lain. Seni bina asas rangkaian neural kabur terdiri daripada subsistem kabur dan subsistem saraf. Subsistem kabur menggunakan logik kabur untuk memproses data input dan menukarnya kepada set kabur untuk menyatakan kekaburan dan ketidakpastian data input. Subsistem saraf menggunakan rangkaian saraf untuk memproses set kabur untuk tugasan seperti pengelasan, regresi atau pengelompokan. Interaksi antara subsistem kabur dan subsistem saraf menjadikan rangkaian neural kabur mempunyai keupayaan pemprosesan yang lebih berkuasa dan boleh

Kajian kes menggunakan model LSTM dwiarah untuk pengelasan teks Kajian kes menggunakan model LSTM dwiarah untuk pengelasan teks Jan 24, 2024 am 10:36 AM

Model LSTM dwiarah ialah rangkaian saraf yang digunakan untuk pengelasan teks. Berikut ialah contoh mudah yang menunjukkan cara menggunakan LSTM dwiarah untuk tugasan pengelasan teks. Pertama, kita perlu mengimport perpustakaan dan modul yang diperlukan: importosimportnumpyasnpfromkeras.preprocessing.textimportTokenizerfromkeras.preprocessing.sequenceimportpad_sequencesfromkeras.modelsimportSequentialfromkeras.layersimportDense,Em

Rangkaian Neural Berkembar: Analisis Prinsip dan Aplikasi Rangkaian Neural Berkembar: Analisis Prinsip dan Aplikasi Jan 24, 2024 pm 04:18 PM

Rangkaian Neural Siam ialah struktur rangkaian saraf tiruan yang unik. Ia terdiri daripada dua rangkaian neural yang sama yang berkongsi parameter dan berat yang sama. Pada masa yang sama, kedua-dua rangkaian juga berkongsi data input yang sama. Reka bentuk ini diilhamkan oleh kembar, kerana kedua-dua rangkaian saraf adalah sama dari segi struktur. Prinsip rangkaian saraf Siam adalah untuk menyelesaikan tugas tertentu, seperti padanan imej, padanan teks dan pengecaman muka, dengan membandingkan persamaan atau jarak antara dua data input. Semasa latihan, rangkaian cuba untuk memetakan data yang serupa ke wilayah bersebelahan dan data yang tidak serupa ke wilayah yang jauh. Dengan cara ini, rangkaian boleh belajar cara mengklasifikasikan atau memadankan data yang berbeza dan mencapai yang sepadan

Penghapusan imej menggunakan rangkaian saraf konvolusi Penghapusan imej menggunakan rangkaian saraf konvolusi Jan 23, 2024 pm 11:48 PM

Rangkaian neural konvolusi berfungsi dengan baik dalam tugasan menghilangkan imej. Ia menggunakan penapis yang dipelajari untuk menapis bunyi dan dengan itu memulihkan imej asal. Artikel ini memperkenalkan secara terperinci kaedah denoising imej berdasarkan rangkaian neural convolutional. 1. Gambaran Keseluruhan Rangkaian Neural Konvolusi Rangkaian saraf konvolusi ialah algoritma pembelajaran mendalam yang menggunakan gabungan berbilang lapisan konvolusi, lapisan gabungan dan lapisan bersambung sepenuhnya untuk mempelajari dan mengelaskan ciri imej. Dalam lapisan konvolusi, ciri tempatan imej diekstrak melalui operasi konvolusi, dengan itu menangkap korelasi spatial dalam imej. Lapisan pengumpulan mengurangkan jumlah pengiraan dengan mengurangkan dimensi ciri dan mengekalkan ciri utama. Lapisan bersambung sepenuhnya bertanggungjawab untuk memetakan ciri dan label yang dipelajari untuk melaksanakan pengelasan imej atau tugas lain. Reka bentuk struktur rangkaian ini menjadikan rangkaian neural konvolusi berguna dalam pemprosesan dan pengecaman imej.

Pengenalan kepada SqueezeNet dan ciri-cirinya Pengenalan kepada SqueezeNet dan ciri-cirinya Jan 22, 2024 pm 07:15 PM

SqueezeNet ialah algoritma kecil dan tepat yang memberikan keseimbangan yang baik antara ketepatan tinggi dan kerumitan rendah, menjadikannya sesuai untuk sistem mudah alih dan terbenam dengan sumber terhad. Pada 2016, penyelidik dari DeepScale, University of California, Berkeley, dan Stanford University mencadangkan SqueezeNet, rangkaian neural convolutional (CNN) yang padat dan cekap. Dalam beberapa tahun kebelakangan ini, penyelidik telah membuat beberapa penambahbaikan pada SqueezeNet, termasuk SqueezeNetv1.1 dan SqueezeNetv2.0. Penambahbaikan dalam kedua-dua versi bukan sahaja meningkatkan ketepatan tetapi juga mengurangkan kos pengiraan. Ketepatan SqueezeNetv1.1 pada dataset ImageNet

Langkah-langkah untuk menulis rangkaian neural mudah menggunakan Rust Langkah-langkah untuk menulis rangkaian neural mudah menggunakan Rust Jan 23, 2024 am 10:45 AM

Rust ialah bahasa pengaturcaraan peringkat sistem yang memfokuskan pada keselamatan, prestasi dan keselarasan. Ia bertujuan untuk menyediakan bahasa pengaturcaraan yang selamat dan boleh dipercayai yang sesuai untuk senario seperti sistem pengendalian, aplikasi rangkaian dan sistem terbenam. Keselamatan Rust datang terutamanya dari dua aspek: sistem pemilikan dan pemeriksa pinjaman. Sistem pemilikan membolehkan pengkompil menyemak kod untuk ralat memori pada masa penyusunan, dengan itu mengelakkan isu keselamatan memori biasa. Dengan memaksa menyemak pemindahan pemilikan berubah pada masa penyusunan, Rust memastikan sumber memori diurus dan dikeluarkan dengan betul. Penyemak pinjaman menganalisis kitaran hayat pembolehubah untuk memastikan pembolehubah yang sama tidak akan diakses oleh berbilang rangkaian pada masa yang sama, sekali gus mengelakkan isu keselamatan bersamaan yang biasa. Dengan menggabungkan kedua-dua mekanisme ini, Rust dapat menyediakan

See all articles