Jadual Kandungan
Apabila kita ingin mencipta model untuk data boleh dipisahkan tak linear, regresi polinomial ialah salah satu pilihan yang paling popular. Ia serupa dengan regresi linear tetapi menggunakan hubungan antara pembolehubah X dan y untuk mencari cara terbaik untuk melukis lengkung yang sesuai dengan titik data.
Mesin vektor sokongan terkenal dalam masalah klasifikasi. Penggunaan SVM dalam regresi dipanggil Regresi Vektor Sokongan (SVR). Scikit-learn mempunyai kaedah ini terbina dalam SVR(). . data ghaib)
Ia juga berfungsi untuk nilai kategori dan berterusan. Memerlukan banyak kuasa dan sumber pengkomputeran kerana ia sesuai dengan banyak pokok keputusan untuk menggabungkan output mereka.
Ia sesuai untuk model yang menunjukkan multikolineariti yang teruk (ciri sangat berkorelasi antara satu sama lain). LASSO Regresi menggunakan L1 regularization
Regresi rabung menggunakan regularisasi L2. Ciri yang menyumbang kurang akan mempunyai pekali hampir kepada sifar. Regresi rabung dianggap lebih teruk daripada LASSO kerana sifat regularisasi L2.
10. Regresi Linear Wajaran Tempatan
Rumah Peranti teknologi AI Algoritma regresi yang biasa digunakan dan ciri-cirinya dalam aplikasi pembelajaran mesin

Algoritma regresi yang biasa digunakan dan ciri-cirinya dalam aplikasi pembelajaran mesin

Nov 29, 2023 pm 05:29 PM
pembelajaran mesin perangkaan

Regression ialah salah satu alat yang paling berkuasa dalam statistik Algoritma pembelajaran diselia pembelajaran mesin dibahagikan kepada dua jenis: algoritma klasifikasi dan algoritma regresi. Algoritma regresi digunakan untuk ramalan pengedaran berterusan dan boleh meramal data berterusan dan bukannya label kategori diskret sahaja.

Analisis regresi digunakan secara meluas dalam bidang pembelajaran mesin, seperti meramalkan jualan produk, aliran trafik, harga perumahan, keadaan cuaca, dll.

Algoritma regresi ialah algoritma pembelajaran mesin yang biasa digunakan, digunakan untuk mewujudkan hubungan antara pembolehubah bebas X dan pembolehubah bersandar Y hubungan. Dari perspektif pembelajaran mesin, ia digunakan untuk membina model (fungsi) algoritma untuk mencapai hubungan pemetaan antara atribut X dan label Y. Semasa proses pembelajaran, algoritma cuba mencari hubungan parameter terbaik supaya kesesuaian adalah yang terbaik

Dalam algoritma regresi, hasil akhir algoritma (fungsi) ialah nilai data berterusan. Nilai input (nilai atribut) ialah atribut d-dimensi/vektor angka

Sesetengah algoritma regresi yang biasa digunakan termasuk regresi linear, regresi polinomial, regresi pepohon keputusan, regresi Ridge, regresi Lasso, regresi ElasticNet, dll.

Artikel ini akan memperkenalkan beberapa yang biasa Algoritma regresi, dan ciri masing-masing

  • Regresi linear
  • Regresi polinomial
  • Regression linear
  • Regresi polinomial
  • mesin vektor sandaran
  • regresi pokok keputusan
  • Random Hutan kembali
  • LASSO kembali
  • Ridge kembali
  • ElasticNet
Boost kini kembali

Wajaran Tempatan Regresi Linear

Satu , Regresi Linear

Regresi linear selalunya merupakan algoritma pertama yang orang pelajari tentang pembelajaran mesin dan sains data. Regresi linear ialah model linear yang menganggap hubungan linear antara pembolehubah input (X) dan pembolehubah keluaran tunggal (y). Secara umumnya, terdapat dua situasi:

Univariate linear regresi ialah kaedah pemodelan yang digunakan untuk menganalisis hubungan antara pembolehubah input tunggal (iaitu pembolehubah ciri tunggal) dan pembolehubah output tunggal
  • Multivariable Linear regresi (juga dipanggil regresi linear berganda): Ia memodelkan hubungan antara pembolehubah input berbilang (pembolehubah berbilang ciri) dan pembolehubah output tunggal. . data.
  • Pemahaman dan penjelasan yang sangat intuitif.
  • Ia sangat sensitif kepada outlier.
  • 2. Regresi Polinomial

Beberapa perkara penting tentang regresi polinomial:

dapat memodelkan data boleh dipisahkan bukan linear tidak boleh melakukan ini. Secara umum, ia lebih fleksibel dan boleh memodelkan beberapa perhubungan yang agak kompleks.
  • Kawalan penuh ke atas pemodelan pembolehubah ciri (eksponen untuk ditetapkan).
  • Memerlukan reka bentuk yang teliti. Beberapa pengetahuan data diperlukan untuk memilih indeks yang terbaik.
  • Jika indeks tidak dipilih dengan betul, ia mudah untuk overfit.
  • 3. Regresi Mesin Vektor Sokongan

Mesin vektor sokongan terkenal dalam masalah klasifikasi. Penggunaan SVM dalam regresi dipanggil Regresi Vektor Sokongan (SVR). Scikit-learn mempunyai kaedah ini terbina dalam SVR(). . data ghaib)

Jika bilangan ciri jauh lebih besar daripada bilangan sampel, ia adalah mudah untuk overfit

4. Regresi pepohon keputusan

Pepohon keputusan ialah kaedah yang digunakan untuk bukan pengelasan dan regresi kaedah pembelajaran seliaan parametrik. Matlamatnya adalah untuk mencipta model yang meramalkan nilai pembolehubah sasaran dengan mempelajari peraturan keputusan mudah yang disimpulkan daripada ciri data. Sebatang pokok boleh dilihat sebagai anggaran pemalar sekeping.
  • Algoritma regresi yang biasa digunakan dan ciri-cirinya dalam aplikasi pembelajaran mesin

    Beberapa perkara penting tentang pokok keputusan:

    • Mudah untuk difahami dan dijelaskan. Pokok boleh divisualisasikan. . berterusan (Seperti yang ditunjukkan dalam rajah di atas, ia adalah anggaran pemalar sekeping)
    • 5. Regresi Hutan Rawak
    • Regresi hutan rawak dan regresi pokok keputusan pada asasnya sangat serupa. Ia adalah penganggar meta yang boleh memuatkan berbilang pepohon keputusan pada pelbagai subsampel set data dan meratakannya untuk meningkatkan ketepatan ramalan dan mengawal overfitting
    • Random Forest Regressor dalam masalah regresi Prestasi mungkin lebih baik atau lebih teruk daripada pepohon keputusan (walaupun selalunya lebih baik dalam masalah klasifikasi) disebabkan oleh tukar tambah (overfitting) dan kekurangan (underfitting) yang wujud dalam algoritma pembinaan pokok
    Mengenai Hutan Rawak Beberapa perkara untuk regresi:

    Kurangkan ketepatan yang berlebihan dalam pepohon keputusan.

    Ia juga berfungsi untuk nilai kategori dan berterusan. Memerlukan banyak kuasa dan sumber pengkomputeran kerana ia sesuai dengan banyak pokok keputusan untuk menggabungkan output mereka.

    • 6. Regresi LASSO
    • Regresi LASSO ialah varian regresi linear pengecutan. Pengecutan ialah proses mengecilkan nilai data ke titik tengah sebagai purata. Regresi jenis ini sesuai untuk model yang mempunyai multikolineariti yang teruk (kaitan tinggi antara ciri)
    • Beberapa perkara tentang Lasso Regression:

    Ia adalah ciri yang paling biasa digunakan untuk menghapuskan ciri automatik .

    Algoritma regresi yang biasa digunakan dan ciri-cirinya dalam aplikasi pembelajaran mesin

    Ia sesuai untuk model yang menunjukkan multikolineariti yang teruk (ciri sangat berkorelasi antara satu sama lain). LASSO Regresi menggunakan L1 regularization

    • LASSO Regresi dianggap lebih baik daripada Ridge kerana ia hanya memilih beberapa ciri dan mengurangkan pekali ciri lain kepada sifar.
    • 7. Regresi rabung
    • Regression rabung hampir sama dengan regresi LASSO kerana kedua-dua teknik menggunakan kaedah pengecutan. Kedua-dua regresi Ridge dan LASSO sangat sesuai untuk model yang mempunyai masalah multikolineariti yang teruk (iaitu korelasi tinggi antara ciri). Perbezaan utama antara mereka ialah Ridge menggunakan regularization L2, yang bermaksud bahawa tiada satu pun pekali akan pergi ke sifar (tetapi hampir kepada sifar) seperti dalam regresi LASSO
    • Beberapa perkara tentang Regresi Ridge:

    Ia sesuai untuk model yang menunjukkan multikolineariti yang teruk (ciri sangat berkorelasi antara satu sama lain).

    Algoritma regresi yang biasa digunakan dan ciri-cirinya dalam aplikasi pembelajaran mesin

    Regresi rabung menggunakan regularisasi L2. Ciri yang menyumbang kurang akan mempunyai pekali hampir kepada sifar. Regresi rabung dianggap lebih teruk daripada LASSO kerana sifat regularisasi L2.

    • 8. Regresi ElasticNet
    • ElasticNet ialah satu lagi model regresi linear yang dilatih menggunakan regularisasi L1 dan L2. Ia adalah gabungan teknik regresi Lasso dan Ridge, jadi ia juga sangat sesuai untuk model yang menunjukkan multikolineariti yang teruk (ciri sangat berkorelasi antara satu sama lain).
    • Apabila menimbang antara Lasso dan Ridge, kelebihan praktikal ialah Elastic-Net boleh mewarisi sebahagian daripada kestabilan Ridge di bawah putaran
    • 9 XGBoost Regression

    XGBoost ialah versi algoritma penggalak kecerunan yang cekap. dilaksanakan dengan berkesan. Peningkatan kecerunan ialah sejenis algoritma pembelajaran mesin ensemble yang boleh digunakan untuk masalah klasifikasi atau regresi

    XGBoost ialah perpustakaan sumber terbuka yang pada asalnya dibangunkan oleh Chen Tianqi dalam makalah 2016 beliau "XGBoost: A Scalable Tree Boosting System". Algoritma direka untuk menjadi cekap dan cekap dari segi pengiraan

    Sedikit perkara tentang XGBoost:

    • XGBoost tidak berprestasi baik pada data yang jarang dan tidak berstruktur.
    • Algoritma direka untuk cekap dan cekap dari segi pengiraan, tetapi masa latihan masih agak lama untuk set data yang besar.
    • Ia sensitif kepada outliers.

    10. Regresi Linear Wajaran Tempatan

    Dalam Regresi Linear Wajaran Tempatan (Regression Linear Wajaran Tempatan), kami juga melakukan regresi linear. Walau bagaimanapun, tidak seperti regresi linear biasa, regresi linear wajaran tempatan ialah kaedah regresi linear tempatan. Dengan memperkenalkan pemberat (fungsi kernel), semasa membuat ramalan, hanya beberapa sampel yang hampir dengan titik ujian digunakan untuk mengira pekali regresi. Regresi linear biasa ialah regresi linear global, yang menggunakan semua sampel untuk mengira pekali regresi

    Kebaikan dan keburukan & senario yang boleh digunakan

    Kelebihan melalui penurunan berat badan, pengurangan berat badan juga jelas. diperlukan. Apabila regresi linear berganda terlampau pasang, anda boleh mencuba pemberat tempatan kernel Gaussian untuk mengelakkan overfitting. Regresi Bayesian Ridge hitung bahagian belakang daripada sebelumnya. Regresi linear Bayesian boleh diselesaikan dengan kaedah berangka, dan dalam keadaan tertentu, statistik posterior atau berkaitan dalam bentuk analitik juga boleh diperolehi

    Regresi linear Bayesian mempunyai sifat asas model statistik Bayesian dan boleh menyelesaikan untuk pekali berat Fungsi ketumpatan kebarangkalian , pembelajaran dalam talian dan ujian hipotesis model berdasarkan faktor Bayes (faktor Bayes)

    Kebaikan dan Kelemahan & Senario Berkenaan

    Kelebihan regresi Bayesian ialah kebolehsuaian data yang berlebihan dan boleh mencegah penggunaan semula data Dalam proses penganggaran, istilah regularisasi boleh diperkenalkan Contohnya, dengan memperkenalkan istilah regularisasi L2 dalam regresi linear Bayesian, regresi rabung Bayesian boleh direalisasikan ialah proses pembelajaran yang terlalu mahal. Apabila bilangan ciri kurang daripada 10, anda boleh mencuba regresi Bayesian.

Atas ialah kandungan terperinci Algoritma regresi yang biasa digunakan dan ciri-cirinya dalam aplikasi pembelajaran mesin. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
2 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
Repo: Cara menghidupkan semula rakan sepasukan
4 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Adventure: Cara mendapatkan biji gergasi
4 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌

Alat panas

Notepad++7.3.1

Notepad++7.3.1

Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina

SublimeText3 versi Cina

Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

SublimeText3 versi Mac

SublimeText3 versi Mac

Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

15 alat anotasi imej percuma sumber terbuka disyorkan 15 alat anotasi imej percuma sumber terbuka disyorkan Mar 28, 2024 pm 01:21 PM

Anotasi imej ialah proses mengaitkan label atau maklumat deskriptif dengan imej untuk memberi makna dan penjelasan yang lebih mendalam kepada kandungan imej. Proses ini penting untuk pembelajaran mesin, yang membantu melatih model penglihatan untuk mengenal pasti elemen individu dalam imej dengan lebih tepat. Dengan menambahkan anotasi pada imej, komputer boleh memahami semantik dan konteks di sebalik imej, dengan itu meningkatkan keupayaan untuk memahami dan menganalisis kandungan imej. Anotasi imej mempunyai pelbagai aplikasi, meliputi banyak bidang, seperti penglihatan komputer, pemprosesan bahasa semula jadi dan model penglihatan graf Ia mempunyai pelbagai aplikasi, seperti membantu kenderaan dalam mengenal pasti halangan di jalan raya, dan membantu dalam proses. pengesanan dan diagnosis penyakit melalui pengecaman imej perubatan. Artikel ini terutamanya mengesyorkan beberapa alat anotasi imej sumber terbuka dan percuma yang lebih baik. 1.Makesen

Artikel ini akan membawa anda memahami SHAP: penjelasan model untuk pembelajaran mesin Artikel ini akan membawa anda memahami SHAP: penjelasan model untuk pembelajaran mesin Jun 01, 2024 am 10:58 AM

Dalam bidang pembelajaran mesin dan sains data, kebolehtafsiran model sentiasa menjadi tumpuan penyelidik dan pengamal. Dengan aplikasi meluas model yang kompleks seperti kaedah pembelajaran mendalam dan ensemble, memahami proses membuat keputusan model menjadi sangat penting. AI|XAI yang boleh dijelaskan membantu membina kepercayaan dan keyakinan dalam model pembelajaran mesin dengan meningkatkan ketelusan model. Meningkatkan ketelusan model boleh dicapai melalui kaedah seperti penggunaan meluas pelbagai model yang kompleks, serta proses membuat keputusan yang digunakan untuk menerangkan model. Kaedah ini termasuk analisis kepentingan ciri, anggaran selang ramalan model, algoritma kebolehtafsiran tempatan, dsb. Analisis kepentingan ciri boleh menerangkan proses membuat keputusan model dengan menilai tahap pengaruh model ke atas ciri input. Anggaran selang ramalan model

Kenal pasti overfitting dan underfitting melalui lengkung pembelajaran Kenal pasti overfitting dan underfitting melalui lengkung pembelajaran Apr 29, 2024 pm 06:50 PM

Artikel ini akan memperkenalkan cara mengenal pasti pemasangan lampau dan kekurangan dalam model pembelajaran mesin secara berkesan melalui keluk pembelajaran. Underfitting dan overfitting 1. Overfitting Jika model terlampau latihan pada data sehingga ia mempelajari bunyi daripadanya, maka model tersebut dikatakan overfitting. Model yang dipasang terlebih dahulu mempelajari setiap contoh dengan sempurna sehingga ia akan salah mengklasifikasikan contoh yang tidak kelihatan/baharu. Untuk model terlampau, kami akan mendapat skor set latihan yang sempurna/hampir sempurna dan set pengesahan/skor ujian yang teruk. Diubah suai sedikit: "Punca overfitting: Gunakan model yang kompleks untuk menyelesaikan masalah mudah dan mengekstrak bunyi daripada data. Kerana set data kecil sebagai set latihan mungkin tidak mewakili perwakilan yang betul bagi semua data. 2. Underfitting Heru

Telus! Analisis mendalam tentang prinsip model pembelajaran mesin utama! Telus! Analisis mendalam tentang prinsip model pembelajaran mesin utama! Apr 12, 2024 pm 05:55 PM

Dalam istilah orang awam, model pembelajaran mesin ialah fungsi matematik yang memetakan data input kepada output yang diramalkan. Secara lebih khusus, model pembelajaran mesin ialah fungsi matematik yang melaraskan parameter model dengan belajar daripada data latihan untuk meminimumkan ralat antara output yang diramalkan dan label sebenar. Terdapat banyak model dalam pembelajaran mesin, seperti model regresi logistik, model pepohon keputusan, model mesin vektor sokongan, dll. Setiap model mempunyai jenis data dan jenis masalah yang berkenaan. Pada masa yang sama, terdapat banyak persamaan antara model yang berbeza, atau terdapat laluan tersembunyi untuk evolusi model. Mengambil perceptron penyambung sebagai contoh, dengan meningkatkan bilangan lapisan tersembunyi perceptron, kita boleh mengubahnya menjadi rangkaian neural yang mendalam. Jika fungsi kernel ditambah pada perceptron, ia boleh ditukar menjadi SVM. yang ini

Evolusi kecerdasan buatan dalam penerokaan angkasa lepas dan kejuruteraan penempatan manusia Evolusi kecerdasan buatan dalam penerokaan angkasa lepas dan kejuruteraan penempatan manusia Apr 29, 2024 pm 03:25 PM

Pada tahun 1950-an, kecerdasan buatan (AI) dilahirkan. Ketika itulah penyelidik mendapati bahawa mesin boleh melakukan tugas seperti manusia, seperti berfikir. Kemudian, pada tahun 1960-an, Jabatan Pertahanan A.S. membiayai kecerdasan buatan dan menubuhkan makmal untuk pembangunan selanjutnya. Penyelidik sedang mencari aplikasi untuk kecerdasan buatan dalam banyak bidang, seperti penerokaan angkasa lepas dan kelangsungan hidup dalam persekitaran yang melampau. Penerokaan angkasa lepas ialah kajian tentang alam semesta, yang meliputi seluruh alam semesta di luar bumi. Angkasa lepas diklasifikasikan sebagai persekitaran yang melampau kerana keadaannya berbeza daripada di Bumi. Untuk terus hidup di angkasa, banyak faktor mesti dipertimbangkan dan langkah berjaga-jaga mesti diambil. Para saintis dan penyelidik percaya bahawa meneroka ruang dan memahami keadaan semasa segala-galanya boleh membantu memahami cara alam semesta berfungsi dan bersedia untuk menghadapi kemungkinan krisis alam sekitar

Melaksanakan Algoritma Pembelajaran Mesin dalam C++: Cabaran dan Penyelesaian Biasa Melaksanakan Algoritma Pembelajaran Mesin dalam C++: Cabaran dan Penyelesaian Biasa Jun 03, 2024 pm 01:25 PM

Cabaran biasa yang dihadapi oleh algoritma pembelajaran mesin dalam C++ termasuk pengurusan memori, multi-threading, pengoptimuman prestasi dan kebolehselenggaraan. Penyelesaian termasuk menggunakan penunjuk pintar, perpustakaan benang moden, arahan SIMD dan perpustakaan pihak ketiga, serta mengikuti garis panduan gaya pengekodan dan menggunakan alat automasi. Kes praktikal menunjukkan cara menggunakan perpustakaan Eigen untuk melaksanakan algoritma regresi linear, mengurus memori dengan berkesan dan menggunakan operasi matriks berprestasi tinggi.

AI yang boleh dijelaskan: Menerangkan model AI/ML yang kompleks AI yang boleh dijelaskan: Menerangkan model AI/ML yang kompleks Jun 03, 2024 pm 10:08 PM

Penterjemah |. Disemak oleh Li Rui |. Chonglou Model kecerdasan buatan (AI) dan pembelajaran mesin (ML) semakin kompleks hari ini, dan output yang dihasilkan oleh model ini adalah kotak hitam – tidak dapat dijelaskan kepada pihak berkepentingan. AI Boleh Dijelaskan (XAI) bertujuan untuk menyelesaikan masalah ini dengan membolehkan pihak berkepentingan memahami cara model ini berfungsi, memastikan mereka memahami cara model ini sebenarnya membuat keputusan, dan memastikan ketelusan dalam sistem AI, Amanah dan akauntabiliti untuk menyelesaikan masalah ini. Artikel ini meneroka pelbagai teknik kecerdasan buatan (XAI) yang boleh dijelaskan untuk menggambarkan prinsip asasnya. Beberapa sebab mengapa AI boleh dijelaskan adalah penting Kepercayaan dan ketelusan: Untuk sistem AI diterima secara meluas dan dipercayai, pengguna perlu memahami cara keputusan dibuat

Tinjauan tentang trend masa depan teknologi Golang dalam pembelajaran mesin Tinjauan tentang trend masa depan teknologi Golang dalam pembelajaran mesin May 08, 2024 am 10:15 AM

Potensi aplikasi bahasa Go dalam bidang pembelajaran mesin adalah besar Kelebihannya ialah: Concurrency: Ia menyokong pengaturcaraan selari dan sesuai untuk operasi intensif pengiraan dalam tugas pembelajaran mesin. Kecekapan: Pengumpul sampah dan ciri bahasa memastikan kod itu cekap, walaupun semasa memproses set data yang besar. Kemudahan penggunaan: Sintaksnya ringkas, menjadikannya mudah untuk belajar dan menulis aplikasi pembelajaran mesin.

See all articles