Apa itu ChatGPT? Apakah maksud G, P dan T?

Bill Gates: ChatGPT ialah kemajuan teknologi paling revolusioner sejak 1980.

Dalam era transformasi AI ini, kami hanya boleh menyertai dan bersaing.

Ini adalah nota belajar saya, saya harap ia akan membantu anda memahami ChatGPT.

1. Apakah maksud GPT dalam ChatGPT?

GPT, Transformer Pra-latihan Generatif, model transformasi pra-latihan generatif.

Apakah maksudnya?

Generatif bermaksud ia boleh menjana kandungan secara spontan.

Pra-latihan, pra-latihan, tidak memerlukan anda untuk mendapatkannya dan melatihnya secara langsung Ia menyediakan model bahasa umum untuk anda.

Transformer, model transformasi, ialah model yang sangat berkuasa yang dicadangkan oleh Google. Ia boleh membantu menangani masalah berkaitan NLP dengan lebih baik. Ia adalah struktur rangkaian saraf yang sangat baik.

2 Walaupun Transformer dicadangkan oleh Google. Tetapi aplikasi yang paling berjaya ialah OpenAI's ChatGPT.

Kerana ChatGPT berdiri di atas bahu gergasi.

ChatGPT ialah penghabluran semua masyarakat manusia Tanpa membuka jalan, ChatGPT tidak akan keluar dengan begitu lancar.

Akan ada aplikasi yang lebih berkuasa pada masa hadapan berdasarkan ChatGPT.

3. Terdapat konsep yang sangat penting dalam Transformer, iaitu mekanisme perhatian.

Apakah mekanisme perhatian?

Ini bermakna memilih maklumat penting daripada maklumat yang anda masukkan, fokus pada maklumat penting ini dan mengabaikan maklumat yang tidak penting. Ini akan membantu anda lebih memahami apa yang anda perkatakan.

Mekanisme perhatian boleh membantu model Transformer memfokus pada bahagian paling penting dalam maklumat input.

4 Kaedah pembelajaran mesin dibahagikan kepada pembelajaran terselia, pembelajaran tanpa penyeliaan dan pembelajaran pengukuhan.

Pembelajaran diselia: Dengan data berlabel, maklum balas langsung boleh diberikan dan keputusan serta masa depan boleh diramalkan

Pembelajaran tanpa pengawasan: Tiada label, sasaran dan tiada maklum balas, tetapi ia mencari untuk makna tersembunyi dalam data dengan sendirinya Keputusan

Pembelajaran pengukuhan: Ia adalah proses membuat keputusan dengan satu siri mekanisme ganjaran dan mekanisme hukuman untuk membolehkan pembelajaran mesin melakukan lebih baik

Penggunaan ChatGPT pembelajaran tanpa pengawasan dan pembelajaran pengukuhan.

5. ChatGPT boleh menjana dan mencipta sejumlah besar kandungan, yang sebenarnya bergantung pada kebarangkalian meneka.

Sebagai contoh, cuaca kelabu dan mood saya sangat ___

AI yang dilatih dengan jumlah data yang banyak akan meramalkan bahawa perkataan dengan kebarangkalian paling tinggi untuk muncul dalam ruang ini ialah "tertekan ".

Kemudian "tertekan" akan diisi di tempat kosong ini, jadi jawapannya ialah:

Cuaca kelabu dan suram, dan saya berasa sangat tertekan

Ini terasa luar biasa , tapi itulah hakikatnya.

Semua tugas NLP (pemprosesan bahasa semula jadi) pada peringkat ini bukanlah mesin yang benar-benar dapat memahami dunia manusia.

Dia hanya bermain permainan perkataan dan menyelesaikan teka-teki kebarangkalian lagi dan lagi.

6. Dalam permainan perkataan "meneka kebarangkalian", Model Bahasa Besar (LLM, Model Bahasa Besar) telah berkembang menjadi dua arah arus perdana: BERT dan GPT.

BERT ialah arah yang paling popular sebelum ini, menguasai hampir semua medan NLP.

Dan tampil dengan baik dalam tugas pemahaman bahasa semula jadi (seperti klasifikasi teks, pertimbangan kecenderungan emosi, dsb.).

Arah GPT agak lemah, dan pemain yang paling terkenal ialah OpenAl.

Malah, sebelum keluaran GPT3.0, arah GPT sentiasa lebih lemah daripada BERT (GPT3.0 ialah pendahulu GPT3.5, model di belakang ChatGPT).

7. Apakah perbezaan antara BERT dan GPT?

BERT ialah model bahasa dua hala Ia meneka perkataan di tengah sebelum dan selepas sambungan, jadi ia adalah dua hala, seperti cloze.

Contohnya: Saya ___ pulang ke rumah pada 20hb

BERT meneka "Saya bercadang untuk pulang pada 20hb" dan meneka "pelan" di tengah.

GPT ialah model bahasa sehala, meneka perkataan seterusnya, jadi ia sehala, seperti menulis gubahan.

Contohnya: Saya bercadang untuk pulang pada 20hb___

GPT meneka "Saya bercadang untuk pulang pada 20hb", dan meneka perkataan "pulang" selepasnya.

8. Bagaimana hendak bertanya soalan?

Terdapat dua cara: penalaan halus dan segera.

penala halus, pelarasan parameter: Parameter model perlu dikemas kini untuk melengkapkan kandungan yang dijana.

penalaan halus adalah profesional, dengan ambang tinggi dan penonton yang kecil. Walau bagaimanapun, ia mempunyai kepelbagaian dan ketepatan yang tinggi dan sesuai untuk tugas yang rumit. Permainan untuk beberapa pemain.

kata gesaan dan gesa: Tidak perlu mengubah suai model dan parameter, cuma berikan beberapa petua dan contoh untuk menyelesaikan tugasan.

prompt lebih ringkas, ambang rendah dan penonton ramai. Sesuai untuk tugasan mudah. Semua pemain adalah.

Kandungan yang kami masukkan dalam kotak input ChatGPT ialah gesaan.

9 ChatGPT ialah AI generatif.

AI terbahagi kepada dua jenis dari segi kaedah penghasilan kandungan: AI analitikal dan AI generatif.

AI Analitik digunakan terutamanya untuk analisis dan klasifikasi. Berapa banyak data yang anda suapkan, jenis kandungan yang boleh dianalisis, ia terhad kepada data itu sendiri.

AI Generatif mencipta kandungan baharu yang tidak wujud dalam data berdasarkan pembelajaran dan meringkaskan pengedaran data. Boleh menjana teks, gambar, kod, sintesis pertuturan, video dan model 3D.

ChatGPT ialah AI generatif yang terbaik dalam penulisan teks dan kod.

10 Akhir sekali, dari perspektif pemerolehan pengetahuan, ChatGPT ialah generasi baharu "kaedah perwakilan pengetahuan dan doa".

Pada zaman awal, pengetahuan disimpan dalam pangkalan data secara berstruktur. Kami mendapatkannya melalui SQL.

Kemudian, dengan kelahiran Internet, lebih banyak pengetahuan tidak berstruktur seperti teks, gambar dan video disimpan di Internet. Kami mendapatkannya melalui enjin carian.

Kini, pengetahuan disimpan dalam model besar dalam bentuk parameter. Kami secara langsung menggunakan pengetahuan ini menggunakan bahasa semula jadi.

Atas ialah kandungan terperinci Apa itu ChatGPT? Apakah maksud G, P dan T?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!