Jadual Kandungan
Adalah diketahui bahawa sehingga 87% projek sains data gagal beralih daripada bukti konsep kepada pengeluaran ; semula jadi dalam projek pemprosesan Bahasa (NLP) tidak terkecuali. Mereka mesti mengatasi beberapa kesukaran yang tidak dapat dielakkan berkaitan dengan ruang ini dan selok-beloknya.
Apabila berurusan dengan pangkalan data, penormalan konsep ialah proses yang difahami dengan baik. Oleh kerana ia adalah kunci untuk menggunakan penaakulan dan meningkatkan kelajuan proses anotasi, ia juga penting untuk NLP dalam bidang insurans.
Cara yang lebih baik untuk menyelesaikan tugas pemprosesan bahasa semula jadi (NLP) yang kompleks adalah berdasarkan teknik hibrid (pembelajaran mesin/simbolik) yang menggunakan pembelajaran mesin pengelompokan bahasa mikro berasaskan meningkatkan hasil dan kitaran hayat aliran kerja insurans, yang kemudiannya diwarisi oleh enjin simbolik.
Enjin simbolik sering dilabelkan sebagai sangat tepat tetapi tidak berskala kerana ia tidak mempunyai fleksibiliti pembelajaran mesin apabila berhadapan dengan situasi yang tidak dilihat semasa latihan.
Rumah Peranti teknologi AI Strategi dan kaedah untuk mengelompokkan dokumen insurans menggunakan pemprosesan bahasa semula jadi

Strategi dan kaedah untuk mengelompokkan dokumen insurans menggunakan pemprosesan bahasa semula jadi

Apr 22, 2023 am 10:46 AM
pembelajaran mesin bahasa semula jadi sains data

Penterjemah |. Li Rui

Penilai |. penaakulan.

Strategi dan kaedah untuk mengelompokkan dokumen insurans menggunakan pemprosesan bahasa semula jadiDokumen dan Polisi Insurans: Kes Penggunaan Kompleks

Adalah diketahui bahawa sehingga 87% projek sains data gagal beralih daripada bukti konsep kepada pengeluaran ; semula jadi dalam projek pemprosesan Bahasa (NLP) tidak terkecuali. Mereka mesti mengatasi beberapa kesukaran yang tidak dapat dielakkan berkaitan dengan ruang ini dan selok-beloknya.

Kesukaran utama datang daripada:

Susun atur kompleks dokumen berkaitan insurans.
  • Kekurangan korpus besar dengan anotasi yang berkaitan.
  • Kerumitan reka letak sangat hebat sehingga konsep bahasa yang sama boleh mengubah makna dan nilainya secara drastik bergantung pada tempat ia diletakkan dalam dokumen.

Lihat contoh mudah di bawah: Jika anda cuba membina enjin untuk mengenal pasti sama ada liputan "keganasan" terdapat dalam polisi, anda perlu menetapkan nilai yang berbeza tanpa mengira di mana ia diletakkan:

(1) Hadkan bahagian kecil halaman pengisytiharan.

(2) Bahagian "Pengecualian" polisi.

(3) Tambahkan satu atau lebih pengesahan insurans.

(4) Tambahkan sokongan khusus pada liputan.

Kekurangan dokumen insurans beranotasi berkualiti tinggi dan bersaiz sesuai secara langsung berkaitan dengan kesukaran yang wujud untuk menganotasi dokumen kompleks tersebut dan jumlah usaha yang diperlukan untuk menganotasi puluhan ribu polisi.

Dan ini hanyalah puncak gunung ais. Di samping itu, keperluan untuk menormalkan konsep insurans juga mesti dipertimbangkan.

Penormalan bahasa: kuasa yang tidak kelihatan tetapi berkuasa dalam bahasa insurans

Apabila berurusan dengan pangkalan data, penormalan konsep ialah proses yang difahami dengan baik. Oleh kerana ia adalah kunci untuk menggunakan penaakulan dan meningkatkan kelajuan proses anotasi, ia juga penting untuk NLP dalam bidang insurans.

Konsep penormalan bermaksud mengumpulkan elemen di bawah bahasa tag yang sama, yang mungkin kelihatan sangat berbeza. Walaupun terdapat banyak contoh, yang paling penting datang daripada polisi insurans yang melindungi bencana alam.

Dalam kes ini, sub-had yang berbeza akan digunakan untuk zon banjir yang berbeza. Kawasan yang paling berisiko banjir sering dirujuk sebagai "zon banjir berisiko tinggi". Konsep ini boleh dinyatakan sebagai:

(1) Kawasan banjir Tahap 1

(2) Kawasan berisiko banjir (SFHA)

(3) Kawasan banjir A

Tunggu

Pada hakikatnya, mana-mana perlindungan insurans boleh mempunyai banyak istilah yang boleh dikumpulkan bersama, dan bergantung pada kawasan geografi tertentu dan risiko yang wujud, perlindungan bencana alam yang paling penting walaupun mempunyai dua Perbezaan antara peringkat atau peringkat (I, II dan III).

Darabkan itu dengan semua elemen yang mungkin boleh anda temui dan bilangan varian boleh menjadi sangat besar dengan cepat. Ini menyebabkan kedua-dua anotor pembelajaran mesin dan enjin pemprosesan bahasa semula jadi (NLP) tersekat apabila cuba mendapatkan, membuat kesimpulan atau melabelkan maklumat yang betul.

Jenis pengelompokan bahasa baharu: pendekatan hibrid

Cara yang lebih baik untuk menyelesaikan tugas pemprosesan bahasa semula jadi (NLP) yang kompleks adalah berdasarkan teknik hibrid (pembelajaran mesin/simbolik) yang menggunakan pembelajaran mesin pengelompokan bahasa mikro berasaskan meningkatkan hasil dan kitaran hayat aliran kerja insurans, yang kemudiannya diwarisi oleh enjin simbolik.

Walaupun pengelompokan teks tradisional digunakan dalam kaedah pembelajaran tanpa pengawasan untuk membuat kesimpulan pola semantik dan mengumpulkan dokumen dengan topik yang serupa, ayat dengan makna yang serupa, dsb., kaedah hibrid agak berbeza . Kelompok mikrolinguistik dicipta pada tahap berbutir menggunakan algoritma pembelajaran mesin yang dilatih pada data berlabel menggunakan nilai ternormal yang dipratentukan. Setelah gugusan mikrolinguistik disimpulkan, ia boleh digunakan dalam aktiviti pembelajaran mesin selanjutnya atau dalam talian paip hibrid didorong logik inferens berdasarkan lapisan simbolik.

Ini selaras dengan peraturan emas tradisional pengaturcaraan: "pecahkan masalah." Langkah pertama dalam menyelesaikan kes penggunaan yang kompleks (seperti kebanyakan kes penggunaan dalam ruang insurans) ialah memecahkannya kepada bahagian yang lebih kecil dan lebih sedap.

Apakah tugas yang boleh dicapai oleh pengelompokan bahasa campuran, dan sejauh manakah ia boleh berskala?

Enjin simbolik sering dilabelkan sebagai sangat tepat tetapi tidak berskala kerana ia tidak mempunyai fleksibiliti pembelajaran mesin apabila berhadapan dengan situasi yang tidak dilihat semasa latihan.

Walau bagaimanapun, pengelompokan bahasa jenis ini menyelesaikan masalah ini dengan memanfaatkan pembelajaran mesin untuk mengenal pasti konsep yang kemudiannya dihantar kepada logik yang kompleks dan tepat bagi enjin simbolik seterusnya dalam perancangan.

Kemungkinan tidak berkesudahan: sebagai contoh, langkah simbolik boleh mengubah nilai intrinsik pengecaman pembelajaran mesin berdasarkan segmen dokumen yang dimiliki oleh konsep tersebut.

Berikut ialah contoh penggunaan proses tatatanda "segmentasi" (memisahkan teks kepada kawasan yang berkaitan) untuk melihat cara menggunakan label yang diluluskan oleh modul pembelajaran mesin.

Bayangkan bahawa model perlu memahami sama ada perlindungan tertentu dikecualikan daripada polisi 100 halaman.

Enjin pembelajaran mesin mula-mula akan mengumpulkan semua kemungkinan variasi liputan "Seni":

  • "Seni Halus"
  • " "Kerja Seni"
  • "Item Artistik"
  • "Perhiasan"
  • dan sebagainya.

Susulan ini, bahagian simbol saluran paip akan menyemak sama ada bahagian "Pengecualian" menyebut teg "Seni" untuk mengetahui sama ada insurans dikecualikan daripada polisi atau jika ia dilindungi ( seperti sebahagian daripada senarai sub-had).

Terima kasih kepada ini, anotor pembelajaran mesin tidak perlu risau tentang memberikan label berbeza kepada semua varian Seni berdasarkan kedudukan mereka dalam dasar: mereka hanya perlu menganotasi varian mereka Nilai ternormal untuk "Seni", yang akan bertindak sebagai gugusan bahasa mikro.

Satu lagi contoh berguna tugas kompleks ialah pengagregatan data. Jika enjin hibrid direka bentuk untuk mengekstrak sub-sekatan liputan tertentu, serta isu penormalan liputan, terdapat lapisan kerumitan tambahan untuk ditangani: susunan item bahasa untuk pengagregatan.

Pertimbangkan bahawa tugas di tangan adalah untuk mengeluarkan bukan sahaja sub-had liputan tertentu, tetapi juga kelayakannya (setiap acara, pengagregatan, dll.). Tiga item boleh disusun dalam beberapa pesanan berbeza:

  • Seni Halus $100,000 Setiap Item
  • Seni Halus Setiap Item $100,000
  • Setiap Item $100,000 Seni Halus>Seni Halus $100,000
  • Seni Halus $100,000
Mengambil kesempatan daripada semua pilih atur ini sambil mengagregat data boleh meningkatkan kerumitan model pembelajaran mesin dengan ketara. Pendekatan hibrid, sebaliknya, akan membenarkan model pembelajaran mesin mengenal pasti label yang dinormalkan dan kemudian membenarkan penaakulan simbolik mengenal pasti susunan yang betul berdasarkan data input daripada bahagian pembelajaran mesin.

Ini hanyalah dua contoh yang menunjukkan bahawa jumlah logik dan penaakulan simbolik kompleks yang tidak terhad boleh digunakan di atas algoritma pembelajaran mesin berskala untuk mengenal pasti konsep kanonik.

Aliran kerja berskala yang lebih mudah dibina dan diselenggara

Selain kebolehskalaan, penaakulan simbolik membawa faedah lain kepada keseluruhan aliran kerja projek:

    Tidak perlu melaksanakan aliran kerja pembelajaran mesin yang berbeza untuk tugas yang kompleks, memerlukan teg yang berbeza untuk dilaksanakan dan diselenggara. Selain itu, melatih semula model pembelajaran mesin tunggal adalah lebih pantas dan menggunakan kurang sumber berbanding melatih semula berbilang model.
  • Memandangkan bahagian kompleks logik perniagaan dikendalikan secara simbolik, adalah lebih mudah bagi pencatat data untuk menambahkan anotasi manusia pada saluran paip pembelajaran mesin.
  • Atas sebab yang sama yang dinyatakan di atas, lebih mudah bagi penguji untuk memberikan maklum balas terus kepada proses penyeragaman pembelajaran mesin. Selain itu, memandangkan bahagian pembelajaran mesin aliran kerja menormalkan elemen bahasa, pengguna akan mempunyai senarai teg yang lebih kecil untuk dilabelkan dengan dokumen.
  • Peraturan simbol tidak perlu dikemas kini dengan kerap: perkara yang kerap dikemas kini ialah bahagian pembelajaran mesin, yang turut mendapat manfaat daripada maklum balas pengguna.
Kesimpulan

    Pembelajaran mesin dalam projek kompleks dalam bidang insurans mungkin mengalami masalah kerana logik inferens sukar untuk dimampatkan ke dalam tag mudah ini juga menyukarkan kehidupan annotator .
  • Penempatan teks dan inferens boleh mengubah makna sebenar konsep dengan bentuk linguistik yang sama secara drastik.
  • Dalam aliran kerja pembelajaran mesin tulen, lebih kompleks logiknya, lebih banyak dokumen latihan biasanya diperlukan untuk mencapai ketepatan gred pengeluaran.
  • Atas sebab ini, pembelajaran mesin memerlukan beribu-ribu (atau bahkan puluhan ribu) dokumen pra-label untuk membina model yang berkesan.
  • Pendekatan hibrid mengurangkan kerumitan: pembelajaran mesin dan anotasi pengguna mencipta kelompok/teg bahasa, dan ini kemudiannya digunakan sebagai titik permulaan atau blok binaan untuk enjin simbolik untuk mencapai matlamatnya.
  • Maklum balas pengguna, setelah disahkan, boleh digunakan untuk melatih semula model tanpa mengubah bahagian paling berbutir (yang boleh dikendalikan oleh bahagian simbolik aliran kerja).

Tajuk asal: Polisi Insurans: Pengelompokan Dokumen Melalui NLP Hibrid, pengarang: Stefano Reitano

Atas ialah kandungan terperinci Strategi dan kaedah untuk mengelompokkan dokumen insurans menggunakan pemprosesan bahasa semula jadi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
1 bulan yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Tetapan grafik terbaik
1 bulan yang lalu By 尊渡假赌尊渡假赌尊渡假赌
Akan R.E.P.O. Ada Crossplay?
1 bulan yang lalu By 尊渡假赌尊渡假赌尊渡假赌

Alat panas

Notepad++7.3.1

Notepad++7.3.1

Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina

SublimeText3 versi Cina

Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

SublimeText3 versi Mac

SublimeText3 versi Mac

Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Artikel ini akan membawa anda memahami SHAP: penjelasan model untuk pembelajaran mesin Artikel ini akan membawa anda memahami SHAP: penjelasan model untuk pembelajaran mesin Jun 01, 2024 am 10:58 AM

Dalam bidang pembelajaran mesin dan sains data, kebolehtafsiran model sentiasa menjadi tumpuan penyelidik dan pengamal. Dengan aplikasi meluas model yang kompleks seperti kaedah pembelajaran mendalam dan ensemble, memahami proses membuat keputusan model menjadi sangat penting. AI|XAI yang boleh dijelaskan membantu membina kepercayaan dan keyakinan dalam model pembelajaran mesin dengan meningkatkan ketelusan model. Meningkatkan ketelusan model boleh dicapai melalui kaedah seperti penggunaan meluas pelbagai model yang kompleks, serta proses membuat keputusan yang digunakan untuk menerangkan model. Kaedah ini termasuk analisis kepentingan ciri, anggaran selang ramalan model, algoritma kebolehtafsiran tempatan, dsb. Analisis kepentingan ciri boleh menerangkan proses membuat keputusan model dengan menilai tahap pengaruh model ke atas ciri input. Anggaran selang ramalan model

Kenal pasti overfitting dan underfitting melalui lengkung pembelajaran Kenal pasti overfitting dan underfitting melalui lengkung pembelajaran Apr 29, 2024 pm 06:50 PM

Artikel ini akan memperkenalkan cara mengenal pasti pemasangan lampau dan kekurangan dalam model pembelajaran mesin secara berkesan melalui keluk pembelajaran. Underfitting dan overfitting 1. Overfitting Jika model terlampau latihan pada data sehingga ia mempelajari bunyi daripadanya, maka model tersebut dikatakan overfitting. Model yang dipasang terlebih dahulu mempelajari setiap contoh dengan sempurna sehingga ia akan salah mengklasifikasikan contoh yang tidak kelihatan/baharu. Untuk model terlampau, kami akan mendapat skor set latihan yang sempurna/hampir sempurna dan set pengesahan/skor ujian yang teruk. Diubah suai sedikit: "Punca overfitting: Gunakan model yang kompleks untuk menyelesaikan masalah mudah dan mengekstrak bunyi daripada data. Kerana set data kecil sebagai set latihan mungkin tidak mewakili perwakilan yang betul bagi semua data. 2. Underfitting Heru

Telus! Analisis mendalam tentang prinsip model pembelajaran mesin utama! Telus! Analisis mendalam tentang prinsip model pembelajaran mesin utama! Apr 12, 2024 pm 05:55 PM

Dalam istilah orang awam, model pembelajaran mesin ialah fungsi matematik yang memetakan data input kepada output yang diramalkan. Secara lebih khusus, model pembelajaran mesin ialah fungsi matematik yang melaraskan parameter model dengan belajar daripada data latihan untuk meminimumkan ralat antara output yang diramalkan dan label sebenar. Terdapat banyak model dalam pembelajaran mesin, seperti model regresi logistik, model pepohon keputusan, model mesin vektor sokongan, dll. Setiap model mempunyai jenis data dan jenis masalah yang berkenaan. Pada masa yang sama, terdapat banyak persamaan antara model yang berbeza, atau terdapat laluan tersembunyi untuk evolusi model. Mengambil perceptron penyambung sebagai contoh, dengan meningkatkan bilangan lapisan tersembunyi perceptron, kita boleh mengubahnya menjadi rangkaian neural yang mendalam. Jika fungsi kernel ditambah pada perceptron, ia boleh ditukar menjadi SVM. yang ini

Evolusi kecerdasan buatan dalam penerokaan angkasa lepas dan kejuruteraan penempatan manusia Evolusi kecerdasan buatan dalam penerokaan angkasa lepas dan kejuruteraan penempatan manusia Apr 29, 2024 pm 03:25 PM

Pada tahun 1950-an, kecerdasan buatan (AI) dilahirkan. Ketika itulah penyelidik mendapati bahawa mesin boleh melakukan tugas seperti manusia, seperti berfikir. Kemudian, pada tahun 1960-an, Jabatan Pertahanan A.S. membiayai kecerdasan buatan dan menubuhkan makmal untuk pembangunan selanjutnya. Penyelidik sedang mencari aplikasi untuk kecerdasan buatan dalam banyak bidang, seperti penerokaan angkasa lepas dan kelangsungan hidup dalam persekitaran yang melampau. Penerokaan angkasa lepas ialah kajian tentang alam semesta, yang meliputi seluruh alam semesta di luar bumi. Angkasa lepas diklasifikasikan sebagai persekitaran yang melampau kerana keadaannya berbeza daripada di Bumi. Untuk terus hidup di angkasa, banyak faktor mesti dipertimbangkan dan langkah berjaga-jaga mesti diambil. Para saintis dan penyelidik percaya bahawa meneroka ruang dan memahami keadaan semasa segala-galanya boleh membantu memahami cara alam semesta berfungsi dan bersedia untuk menghadapi kemungkinan krisis alam sekitar

Melaksanakan Algoritma Pembelajaran Mesin dalam C++: Cabaran dan Penyelesaian Biasa Melaksanakan Algoritma Pembelajaran Mesin dalam C++: Cabaran dan Penyelesaian Biasa Jun 03, 2024 pm 01:25 PM

Cabaran biasa yang dihadapi oleh algoritma pembelajaran mesin dalam C++ termasuk pengurusan memori, multi-threading, pengoptimuman prestasi dan kebolehselenggaraan. Penyelesaian termasuk menggunakan penunjuk pintar, perpustakaan benang moden, arahan SIMD dan perpustakaan pihak ketiga, serta mengikuti garis panduan gaya pengekodan dan menggunakan alat automasi. Kes praktikal menunjukkan cara menggunakan perpustakaan Eigen untuk melaksanakan algoritma regresi linear, mengurus memori dengan berkesan dan menggunakan operasi matriks berprestasi tinggi.

AI yang boleh dijelaskan: Menerangkan model AI/ML yang kompleks AI yang boleh dijelaskan: Menerangkan model AI/ML yang kompleks Jun 03, 2024 pm 10:08 PM

Penterjemah |. Disemak oleh Li Rui |. Chonglou Model kecerdasan buatan (AI) dan pembelajaran mesin (ML) semakin kompleks hari ini, dan output yang dihasilkan oleh model ini adalah kotak hitam – tidak dapat dijelaskan kepada pihak berkepentingan. AI Boleh Dijelaskan (XAI) bertujuan untuk menyelesaikan masalah ini dengan membolehkan pihak berkepentingan memahami cara model ini berfungsi, memastikan mereka memahami cara model ini sebenarnya membuat keputusan, dan memastikan ketelusan dalam sistem AI, Amanah dan akauntabiliti untuk menyelesaikan masalah ini. Artikel ini meneroka pelbagai teknik kecerdasan buatan (XAI) yang boleh dijelaskan untuk menggambarkan prinsip asasnya. Beberapa sebab mengapa AI boleh dijelaskan adalah penting Kepercayaan dan ketelusan: Untuk sistem AI diterima secara meluas dan dipercayai, pengguna perlu memahami cara keputusan dibuat

Lima sekolah pembelajaran mesin yang anda tidak tahu Lima sekolah pembelajaran mesin yang anda tidak tahu Jun 05, 2024 pm 08:51 PM

Pembelajaran mesin ialah cabang penting kecerdasan buatan yang memberikan komputer keupayaan untuk belajar daripada data dan meningkatkan keupayaan mereka tanpa diprogramkan secara eksplisit. Pembelajaran mesin mempunyai pelbagai aplikasi dalam pelbagai bidang, daripada pengecaman imej dan pemprosesan bahasa semula jadi kepada sistem pengesyoran dan pengesanan penipuan, dan ia mengubah cara hidup kita. Terdapat banyak kaedah dan teori yang berbeza dalam bidang pembelajaran mesin, antaranya lima kaedah yang paling berpengaruh dipanggil "Lima Sekolah Pembelajaran Mesin". Lima sekolah utama ialah sekolah simbolik, sekolah sambungan, sekolah evolusi, sekolah Bayesian dan sekolah analogi. 1. Simbolisme, juga dikenali sebagai simbolisme, menekankan penggunaan simbol untuk penaakulan logik dan ekspresi pengetahuan. Aliran pemikiran ini percaya bahawa pembelajaran adalah proses penolakan terbalik, melalui sedia ada

Adakah Flash Attention stabil? Meta dan Harvard mendapati bahawa sisihan berat model mereka berubah-ubah mengikut urutan magnitud Adakah Flash Attention stabil? Meta dan Harvard mendapati bahawa sisihan berat model mereka berubah-ubah mengikut urutan magnitud May 30, 2024 pm 01:24 PM

MetaFAIR bekerjasama dengan Harvard untuk menyediakan rangka kerja penyelidikan baharu untuk mengoptimumkan bias data yang dijana apabila pembelajaran mesin berskala besar dilakukan. Adalah diketahui bahawa latihan model bahasa besar sering mengambil masa berbulan-bulan dan menggunakan ratusan atau bahkan ribuan GPU. Mengambil model LLaMA270B sebagai contoh, latihannya memerlukan sejumlah 1,720,320 jam GPU. Melatih model besar memberikan cabaran sistemik yang unik disebabkan oleh skala dan kerumitan beban kerja ini. Baru-baru ini, banyak institusi telah melaporkan ketidakstabilan dalam proses latihan apabila melatih model AI generatif SOTA Mereka biasanya muncul dalam bentuk lonjakan kerugian Contohnya, model PaLM Google mengalami sehingga 20 lonjakan kerugian semasa proses latihan. Bias berangka adalah punca ketidaktepatan latihan ini,

See all articles