Memahami strategi, langkah, perbezaan dan konsep pembelajaran pemindahan
Pembelajaran pemindahan ialah kaedah yang menggunakan model terlatih dalam tugasan pembelajaran mesin sedia ada untuk menyelesaikan tugasan baharu. Ia boleh mengurangkan jumlah data latihan yang diperlukan untuk tugasan baharu dengan memindahkan pengetahuan model sedia ada kepada tugasan baharu. Dalam beberapa tahun kebelakangan ini, pembelajaran pemindahan telah digunakan secara meluas dalam bidang seperti pemprosesan bahasa semula jadi dan pengecaman imej. Artikel ini akan memperkenalkan konsep dan prinsip pembelajaran pemindahan secara terperinci.
Strategi Pembelajaran Pemindahan Klasik
Gunakan strategi dan teknik pembelajaran pemindahan yang berbeza berdasarkan domain tugasan dan ketersediaan data.
1. Pembelajaran pemindahan induktif
Pembelajaran pemindahan induktif memerlukan domain sumber dan domain sasaran adalah sama, walaupun tugas khusus yang dikendalikan oleh model adalah berbeza. Algoritma ini cuba mengeksploitasi pengetahuan model sumber dan menggunakannya untuk memperbaiki tugas sasaran. Model pra-latihan sudah mempunyai kepakaran dalam ciri domain, memberikan mereka titik permulaan yang lebih baik daripada melatih mereka dari awal.
Pembelajaran pemindahan induktif dibahagikan lagi kepada dua subkategori berdasarkan sama ada domain sumber mengandungi data berlabel. Ini termasuk pembelajaran pelbagai tugas dan pembelajaran kendiri masing-masing.
2. Pembelajaran pemindahan transduktif
Senario di mana bidang tugas sumber dan tugasan sasaran tidak betul-betul sama tetapi berkaitan antara satu sama lain, strategi pembelajaran pemindahan transduktif boleh digunakan. Seseorang boleh membuat persamaan antara tugas sumber dan sasaran. Senario ini biasanya mempunyai sejumlah besar data berlabel dalam domain sumber dan hanya data tidak berlabel dalam domain sasaran.
3. Pembelajaran pemindahan tanpa pengawasan
Pembelajaran pemindahan tanpa pengawasan adalah serupa dengan pembelajaran pemindahan induktif. Satu-satunya perbezaan ialah algoritma memfokuskan pada tugas tanpa pengawasan dan melibatkan set data tidak berlabel dalam kedua-dua tugas sumber dan sasaran.
4. Strategi berdasarkan persamaan domain dan bebas daripada jenis sampel data latihan
- Pembelajaran pemindahan isomorfik
Kaedah pembelajaran pemindahan isomorfik yang sama dibangunkan dan dicadangkan dengan domain yang sama. keadaan angkasa lepas. Dalam pembelajaran pemindahan isomorfik, domain hanya berbeza sedikit dalam taburan marginalnya. Kaedah ini melaraskan domain dengan membetulkan bias pemilihan sampel atau anjakan kovariat.
- Pembelajaran Pemindahan Heterogen
Kaedah pembelajaran pemindahan heterogen direka untuk menyelesaikan masalah domain sumber dan sasaran dengan ruang ciri yang berbeza serta isu lain seperti pengedaran data dan ruang label yang berbeza. Pembelajaran pemindahan heterogen digunakan untuk tugas merentas domain seperti klasifikasi teks merentas bahasa, klasifikasi teks ke imej, dsb.
6 langkah pembelajaran pemindahan
1. Dapatkan model pra-latihan
Langkah pertama ialah memilih model pra-latihan yang ingin kami simpan sebagai asas latihan kami mengikut tugasan . Memindahkan pembelajaran memerlukan korelasi yang kuat antara pengetahuan model sumber pra-latihan dan domain tugas sasaran agar serasi.
2. Cipta model asas
Model asas adalah untuk memilih seni bina yang berkait rapat dengan tugasan dalam langkah pertama dalam kes penggunaan kuantiti yang diperlukan. Dalam kes ini, lapisan keluaran akhir perlu dialih keluar dan diubah dengan sewajarnya.
3. Membekukan lapisan permulaan
Membekukan lapisan permulaan model pra-latihan adalah penting untuk mengelakkan model mempelajari ciri asas. Jika anda tidak membekukan lapisan awal, semua pembelajaran yang telah berlaku akan hilang. Ini tidak berbeza dengan melatih model dari awal, mengakibatkan masa terbuang, sumber, dsb.
4. Tambahkan lapisan baharu yang boleh dilatih
Satu-satunya pengetahuan yang digunakan semula daripada model asas ialah lapisan pengekstrakan ciri. Lapisan tambahan perlu ditambah di atas lapisan pengekstrakan ciri untuk meramalkan tugas khas model. Ini biasanya lapisan keluaran akhir.
5. Latih lapisan baharu
Besar kemungkinan keluaran akhir model pra-latihan akan berbeza daripada keluaran model yang kita inginkan, di mana lapisan keluaran baharu mesti digunakan untuk melatih model itu.
6. Perhalusi model
untuk meningkatkan prestasi model. Penalaan halus melibatkan penyahbekuan bahagian model asas dan melatih keseluruhan model sekali lagi pada keseluruhan set data pada kadar pembelajaran yang sangat rendah. Kadar pembelajaran yang rendah akan meningkatkan prestasi model pada set data baharu sambil mengelakkan pemasangan berlebihan.
Perbezaan antara pembelajaran mesin tradisional dan pembelajaran pemindahan
1. Model pembelajaran mesin tradisional perlu dilatih dari awal, yang memerlukan sejumlah besar pengiraan dan sejumlah besar data untuk mencapai prestasi tinggi. Pembelajaran pemindahan, sebaliknya, adalah cekap dari segi pengiraan dan membantu mencapai hasil yang lebih baik menggunakan set data yang kecil.
2. Pembelajaran mesin tradisional menggunakan kaedah latihan terpencil, dan setiap model dilatih secara bebas untuk tujuan tertentu dan tidak bergantung pada pengetahuan lepas. Sebaliknya, pembelajaran pemindahan menggunakan pengetahuan yang diperoleh daripada model pra-terlatih untuk mengendalikan tugas.
3 Model pembelajaran pemindahan mencapai prestasi optimum lebih cepat daripada model ML tradisional. Ini kerana model yang memanfaatkan pengetahuan (ciri, berat, dll.) daripada model yang dilatih sebelum ini sudah memahami ciri ini. Ia lebih pantas daripada melatih rangkaian saraf dari awal.
Konsep pembelajaran pemindahan mendalam
Banyak model rangkaian dan model saraf pra-latihan membentuk asas pembelajaran pemindahan dalam konteks pembelajaran mendalam, yang dipanggil pembelajaran pemindahan mendalam.
Untuk memahami proses model pembelajaran mendalam, adalah perlu untuk memahami komponennya. Sistem pembelajaran mendalam ialah seni bina berlapis yang boleh mempelajari ciri yang berbeza pada lapisan yang berbeza. Lapisan awal menyusun ciri peringkat lebih tinggi, yang disempitkan kepada ciri berbutir halus semasa kita pergi lebih dalam ke dalam rangkaian.
Lapisan ini akhirnya disambungkan ke lapisan terakhir untuk mendapatkan output akhir. Ini membuka had penggunaan rangkaian pra-latihan popular tanpa perlu menggunakan lapisan terakhirnya sebagai pengekstrak ciri tetap untuk tugasan lain. Idea utama ialah menggunakan lapisan wajaran model pra-latihan untuk mengekstrak ciri, tetapi tidak mengemas kini pemberat model semasa latihan dengan data baharu untuk tugasan baharu.
Rangkaian saraf dalam ialah struktur berlapis dengan banyak hiperparameter boleh laras. Peranan lapisan awal adalah untuk menangkap ciri generik, manakala lapisan kemudian lebih tertumpu pada tugas eksplisit yang ada. Adalah wajar untuk memperhalusi perwakilan ciri tertib lebih tinggi dalam model asas untuk menjadikannya lebih berkaitan dengan tugasan tertentu. Kami boleh melatih semula lapisan model tertentu sambil mengekalkan beberapa pembekuan dalam latihan.
Satu cara untuk meningkatkan lagi prestasi model adalah dengan melatih semula atau memperhalusi pemberat pada lapisan atas model pra-latihan sambil melatih pengelas. Ini memaksa pemberat dikemas kini daripada peta ciri biasa yang dipelajari daripada tugas sumber model. Penalaan halus akan membolehkan model menggunakan pengetahuan lepas dan mempelajari semula sesuatu dalam domain sasaran.
Selain itu, seseorang harus cuba memperhalusi beberapa lapisan atas dan bukannya keseluruhan model. Beberapa lapisan pertama mempelajari ciri umum asas yang boleh digeneralisasikan kepada hampir semua jenis data. Tujuan penalaan halus adalah untuk menyesuaikan ciri khusus ini kepada set data baharu, dan bukannya mengatasi pembelajaran umum.
Atas ialah kandungan terperinci Memahami strategi, langkah, perbezaan dan konsep pembelajaran pemindahan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Alat AI Hot

Undresser.AI Undress
Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover
Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool
Gambar buka pakaian secara percuma

Clothoff.io
Penyingkiran pakaian AI

AI Hentai Generator
Menjana ai hentai secara percuma.

Artikel Panas

Alat panas

Notepad++7.3.1
Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina
Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1
Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6
Alat pembangunan web visual

SublimeText3 versi Mac
Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Topik panas

Anotasi imej ialah proses mengaitkan label atau maklumat deskriptif dengan imej untuk memberi makna dan penjelasan yang lebih mendalam kepada kandungan imej. Proses ini penting untuk pembelajaran mesin, yang membantu melatih model penglihatan untuk mengenal pasti elemen individu dalam imej dengan lebih tepat. Dengan menambahkan anotasi pada imej, komputer boleh memahami semantik dan konteks di sebalik imej, dengan itu meningkatkan keupayaan untuk memahami dan menganalisis kandungan imej. Anotasi imej mempunyai pelbagai aplikasi, meliputi banyak bidang, seperti penglihatan komputer, pemprosesan bahasa semula jadi dan model penglihatan graf Ia mempunyai pelbagai aplikasi, seperti membantu kenderaan dalam mengenal pasti halangan di jalan raya, dan membantu dalam proses. pengesanan dan diagnosis penyakit melalui pengecaman imej perubatan. Artikel ini terutamanya mengesyorkan beberapa alat anotasi imej sumber terbuka dan percuma yang lebih baik. 1.Makesen

Dalam bidang pembelajaran mesin dan sains data, kebolehtafsiran model sentiasa menjadi tumpuan penyelidik dan pengamal. Dengan aplikasi meluas model yang kompleks seperti kaedah pembelajaran mendalam dan ensemble, memahami proses membuat keputusan model menjadi sangat penting. AI|XAI yang boleh dijelaskan membantu membina kepercayaan dan keyakinan dalam model pembelajaran mesin dengan meningkatkan ketelusan model. Meningkatkan ketelusan model boleh dicapai melalui kaedah seperti penggunaan meluas pelbagai model yang kompleks, serta proses membuat keputusan yang digunakan untuk menerangkan model. Kaedah ini termasuk analisis kepentingan ciri, anggaran selang ramalan model, algoritma kebolehtafsiran tempatan, dsb. Analisis kepentingan ciri boleh menerangkan proses membuat keputusan model dengan menilai tahap pengaruh model ke atas ciri input. Anggaran selang ramalan model

Dalam istilah orang awam, model pembelajaran mesin ialah fungsi matematik yang memetakan data input kepada output yang diramalkan. Secara lebih khusus, model pembelajaran mesin ialah fungsi matematik yang melaraskan parameter model dengan belajar daripada data latihan untuk meminimumkan ralat antara output yang diramalkan dan label sebenar. Terdapat banyak model dalam pembelajaran mesin, seperti model regresi logistik, model pepohon keputusan, model mesin vektor sokongan, dll. Setiap model mempunyai jenis data dan jenis masalah yang berkenaan. Pada masa yang sama, terdapat banyak persamaan antara model yang berbeza, atau terdapat laluan tersembunyi untuk evolusi model. Mengambil perceptron penyambung sebagai contoh, dengan meningkatkan bilangan lapisan tersembunyi perceptron, kita boleh mengubahnya menjadi rangkaian neural yang mendalam. Jika fungsi kernel ditambah pada perceptron, ia boleh ditukar menjadi SVM. yang ini

Artikel ini akan memperkenalkan cara mengenal pasti pemasangan lampau dan kekurangan dalam model pembelajaran mesin secara berkesan melalui keluk pembelajaran. Underfitting dan overfitting 1. Overfitting Jika model terlampau latihan pada data sehingga ia mempelajari bunyi daripadanya, maka model tersebut dikatakan overfitting. Model yang dipasang terlebih dahulu mempelajari setiap contoh dengan sempurna sehingga ia akan salah mengklasifikasikan contoh yang tidak kelihatan/baharu. Untuk model terlampau, kami akan mendapat skor set latihan yang sempurna/hampir sempurna dan set pengesahan/skor ujian yang teruk. Diubah suai sedikit: "Punca overfitting: Gunakan model yang kompleks untuk menyelesaikan masalah mudah dan mengekstrak bunyi daripada data. Kerana set data kecil sebagai set latihan mungkin tidak mewakili perwakilan yang betul bagi semua data. 2. Underfitting Heru

Pada tahun 1950-an, kecerdasan buatan (AI) dilahirkan. Ketika itulah penyelidik mendapati bahawa mesin boleh melakukan tugas seperti manusia, seperti berfikir. Kemudian, pada tahun 1960-an, Jabatan Pertahanan A.S. membiayai kecerdasan buatan dan menubuhkan makmal untuk pembangunan selanjutnya. Penyelidik sedang mencari aplikasi untuk kecerdasan buatan dalam banyak bidang, seperti penerokaan angkasa lepas dan kelangsungan hidup dalam persekitaran yang melampau. Penerokaan angkasa lepas ialah kajian tentang alam semesta, yang meliputi seluruh alam semesta di luar bumi. Angkasa lepas diklasifikasikan sebagai persekitaran yang melampau kerana keadaannya berbeza daripada di Bumi. Untuk terus hidup di angkasa, banyak faktor mesti dipertimbangkan dan langkah berjaga-jaga mesti diambil. Para saintis dan penyelidik percaya bahawa meneroka ruang dan memahami keadaan semasa segala-galanya boleh membantu memahami cara alam semesta berfungsi dan bersedia untuk menghadapi kemungkinan krisis alam sekitar

Cabaran biasa yang dihadapi oleh algoritma pembelajaran mesin dalam C++ termasuk pengurusan memori, multi-threading, pengoptimuman prestasi dan kebolehselenggaraan. Penyelesaian termasuk menggunakan penunjuk pintar, perpustakaan benang moden, arahan SIMD dan perpustakaan pihak ketiga, serta mengikuti garis panduan gaya pengekodan dan menggunakan alat automasi. Kes praktikal menunjukkan cara menggunakan perpustakaan Eigen untuk melaksanakan algoritma regresi linear, mengurus memori dengan berkesan dan menggunakan operasi matriks berprestasi tinggi.

Penterjemah |. Disemak oleh Li Rui |. Chonglou Model kecerdasan buatan (AI) dan pembelajaran mesin (ML) semakin kompleks hari ini, dan output yang dihasilkan oleh model ini adalah kotak hitam – tidak dapat dijelaskan kepada pihak berkepentingan. AI Boleh Dijelaskan (XAI) bertujuan untuk menyelesaikan masalah ini dengan membolehkan pihak berkepentingan memahami cara model ini berfungsi, memastikan mereka memahami cara model ini sebenarnya membuat keputusan, dan memastikan ketelusan dalam sistem AI, Amanah dan akauntabiliti untuk menyelesaikan masalah ini. Artikel ini meneroka pelbagai teknik kecerdasan buatan (XAI) yang boleh dijelaskan untuk menggambarkan prinsip asasnya. Beberapa sebab mengapa AI boleh dijelaskan adalah penting Kepercayaan dan ketelusan: Untuk sistem AI diterima secara meluas dan dipercayai, pengguna perlu memahami cara keputusan dibuat

Potensi aplikasi bahasa Go dalam bidang pembelajaran mesin adalah besar Kelebihannya ialah: Concurrency: Ia menyokong pengaturcaraan selari dan sesuai untuk operasi intensif pengiraan dalam tugas pembelajaran mesin. Kecekapan: Pengumpul sampah dan ciri bahasa memastikan kod itu cekap, walaupun semasa memproses set data yang besar. Kemudahan penggunaan: Sintaksnya ringkas, menjadikannya mudah untuk belajar dan menulis aplikasi pembelajaran mesin.
