Rumah Peranti teknologi AI Bagaimana untuk mengawal selia bot AI generatif seperti ChatGPT dan Bard?

Bagaimana untuk mengawal selia bot AI generatif seperti ChatGPT dan Bard?

Apr 08, 2023 pm 12:31 PM
ai chatgpt

Bagaimana untuk mengawal selia bot AI generatif seperti ChatGPT dan Bard?

Penyelidikan menunjukkan bahawa penggunaan meluas alatan kecerdasan buatan am mewujudkan cabaran baharu bagi pengawal selia yang mungkin sukar mereka hadapi. Malah, cara mengawal selia alatan AI generatif seperti chatbot OpenAI ChatGPT telah menjadi masalah yang menyusahkan pembuat dasar di seluruh dunia.

ChatGPT boleh menjana sebarang jenis kandungan melalui kata kunci dan dilatih untuk memasukkan sejumlah besar pengetahuan. Penyelesaiannya akan melibatkan penilaian risiko, yang sebahagian daripadanya, khususnya, harus dipantau dengan teliti.

Dua bulan selepas pelancaran ChatGPT, chatbot AI ini menjadi produk pengguna yang paling pesat berkembang dalam sejarah, dengan lebih 100 juta pengguna aktif pada Januari tahun ini sahaja. Ini telah mendorong syarikat teknologi besar di seluruh dunia untuk memberi perhatian kepada atau mempercepatkan pelancaran sistem AI, dan telah membawa tenaga baharu kepada bidang AI perbualan.

Microsoft sedang membenamkan AI perbualan dalam penyemak imbasnya, enjin carian dan rangkaian produk yang lebih luas, Google bercadang untuk melakukan perkara yang sama dengan chatbot Bard dan penyepaduan lain dalam Gmail dan Google Cloud dan gergasi Tech yang lain juga melancarkan mereka sendiri; chatbots; pemula seperti Jasper dan Quora juga membawa AI generatif dan perbualan ke dalam pasaran pengguna dan perusahaan arus perdana...

AI Generatif mempercepatkan Permintaan peraturan

Maklumat salah yang meluas dan e-mel pancingan data yang sukar ditemui menimbulkan risiko sebenar kepada aplikasi AI, yang boleh membawa kepada kesilapan diagnosis dan ralat perubatan jika digunakan untuk maklumat perubatan. Terdapat juga risiko berat sebelah yang tinggi jika data yang digunakan untuk mengisi model tidak pelbagai.

Walaupun Microsoft mempunyai model yang dilatih semula yang lebih tepat dan pembekal seperti AI21 Inc. sedang berusaha untuk mengesahkan kandungan yang dijana terhadap data langsung, AI yang dijana "kelihatan nyata tetapi tidak tepat sama sekali" Risiko tindak balas kekal tinggi.

Pesuruhjaya Pasaran Dalaman Kesatuan Eropah Thierry Breton baru-baru ini menyatakan bahawa bil AI EU akan datang akan merangkumi peruntukan untuk sistem AI generatif seperti ChatGPT dan Bard.

"Seperti yang ditunjukkan oleh ChatGPT, penyelesaian AI boleh menawarkan peluang besar kepada perniagaan dan rakyat, tetapi ia juga boleh membawa risiko, itulah sebabnya kami memerlukan rangka kerja kawal selia yang kukuh untuk memastikan AI Dipercayai berasaskan kualiti untuk data," katanya.

Pembangunan AI perlu beretika

Pembekal perisian analitis SAS menggariskan beberapa risiko yang ditimbulkan oleh AI dalam laporan bertajuk "AI dan Inovasi Bertanggungjawab" . Dr. Kirk Borne, pengarang laporan itu, berkata: “AI telah menjadi begitu berkuasa dan begitu meluas sehingga semakin sukar untuk mengetahui sama ada kandungan yang dihasilkannya adalah benar atau palsu, baik atau buruk Kepantasan penggunaan teknologi ini jauh lebih pantas daripada kadar peraturan.”

Dr Iain Brown, ketua sains data di SAS UK dan Ireland, berkata kedua-dua kerajaan dan industri mempunyai tanggungjawab untuk memastikan bahawa AI digunakan untuk kebaikan dan bukannya kemudaratan. Ini termasuk menggunakan rangka kerja etika untuk membimbing pembangunan model AI dan tadbir urus yang ketat untuk memastikan model ini membuat keputusan yang adil, telus dan saksama. Kita boleh membandingkan model AI dengan model pencabar dan mengoptimumkannya apabila data baharu tersedia. ”

Pakar lain percaya bahawa pembangun perisian akan dikehendaki mengurangkan risiko yang diwakili oleh perisian, dan hanya aktiviti yang paling berisiko akan menghadapi langkah pengawalseliaan yang lebih ketat

Ropes & Grey LLP (Ropes & Grey ) Penolong Data, Privasi dan Keselamatan Siber Edward Machin berkata bahawa tidak dapat dielakkan bahawa teknologi seperti ChatGPT, yang kelihatan sekelip mata, akan diterima pakai lebih cepat daripada peraturan kawal selia, terutamanya dalam persekitaran yang sudah sukar seperti AI

Beliau berkata: “Walaupun dasar kawal selia untuk teknologi ini akan diperkenalkan, kaedah dan masa kawal selia masih perlu dilihat. Pembekal sistem AI akan menanggung beban, tetapi pengimport dan pengedar (sekurang-kurangnya di EU) juga akan menanggung potensi obligasi. Ini mungkin meletakkan beberapa pembangun perisian sumber terbuka dalam masalah. Bagaimana tanggungjawab pembangun sumber terbuka dan pihak hiliran lain dikendalikan boleh memberi kesan yang menyedihkan ke atas kesediaan individu ini untuk berinovasi dan menjalankan penyelidikan. ”

Peraturan Hak Cipta, Privasi dan GDPR

Di samping itu, Machin percaya bahawa sebagai tambahan kepada peraturan keseluruhan AI, terdapat juga isu mengenai hak cipta dan privasi kandungan yang dihasilkannya. Contohnya, tidak jelas betapa mudahnya (jika ada) pembangun boleh memproses permintaan individu untuk dialih keluar atau pembetulan, mahupun cara mereka boleh mengikis tapak pihak ketiga daripada tapak mereka dengan cara yang mungkin melanggar syarat perkhidmatan mereka. Banyak data.

Lilian Edwards, seorang profesor undang-undang, inovasi dan masyarakat di Universiti Newcastle yang bekerja pada peraturan AI di Institut Alan Turing, berkata beberapa model ini akan tertakluk kepada peraturan GDPR, yang boleh menyebabkan untuk Mengeluarkan perintah untuk memadamkan data latihan atau bahkan algoritma itu sendiri Jika pemilik tapak web kehilangan trafik ke carian AI, ia juga boleh menamatkan pengikisan besar-besaran data daripada internet yang pada masa ini menguasai enjin carian seperti Google

Beliau menegaskan bahawa masalah terbesar ialah sifat umum model AI ini. Ini menjadikan mereka sukar dikawal di bawah Akta AI EU, yang dirangka berdasarkan risiko yang dihadapi, kerana sukar untuk memberitahu perkara yang akan dilakukan oleh pengguna akhir dengan teknologi tersebut. Suruhanjaya Eropah cuba menambah peraturan untuk mengawal jenis teknologi ini.

Meningkatkan ketelusan algoritma mungkin merupakan penyelesaian. "Big Tech akan mula melobi pengawal selia, berkata, 'Anda tidak boleh mengenakan kewajipan ini kepada kami kerana kami tidak dapat membayangkan setiap risiko atau penggunaan pada masa hadapan,'" kata Edwards "Terdapat cara untuk menangani masalah ini untuk Syarikat Teknologi Besar membantu lebih kurang, termasuk dengan menjadikan algoritma asas lebih telus Kami berada dalam masa yang sukar dan memerlukan insentif untuk bergerak ke arah keterbukaan dan ketelusan untuk lebih memahami cara AI membuat keputusan dan menjana kandungan >

Dia juga berkata: “Ini adalah masalah yang sama yang dihadapi oleh orang ramai apabila menggunakan teknologi yang lebih membosankan, kerana teknologi adalah global dan orang yang mempunyai niat buruk berada di mana-mana, jadi sangat sukar untuk mengawalnya sukar untuk dipadankan dengan peraturan AI. "

Adam Leon Smith, ketua pegawai teknologi DragonFly, penyedia perkhidmatan perundingan AI, berkata: "Pengawal selia global semakin sedar bahawa jika penggunaan sebenar teknologi AI tidak dipertimbangkan, situasi akan berlaku. , adalah sukar untuk mengawal selia keperluan ketepatan dan berat sebelah hanya boleh dipertimbangkan dalam konteks penggunaan, dan sukar untuk mempertimbangkan keperluan risiko, hak dan kebebasan sebelum diterima pakai secara besar-besaran ”

“Pengawal selia boleh. Ketelusan dan pembalakan diberi mandat oleh penyedia teknologi AI Namun, hanya pengguna yang mengendalikan dan menggunakan sistem model bahasa besar (LLM) untuk tujuan tertentu boleh memahami risiko dan melaksanakan langkah mitigasi melalui penyeliaan manual atau pemantauan berterusan.

Peraturan AI akan berlaku

Terdapat perbahasan besar-besaran mengenai peraturan AI dalam Suruhanjaya Eropah, dan pengawal selia data mesti menanganinya dengan serius. Akhirnya, Smith percaya bahawa apabila pengawal selia memberi lebih perhatian kepada isu ini, penyedia AI akan mula menyenaraikan tujuan teknologi "mungkin tidak digunakan", termasuk mengeluarkan penafian undang-undang sebelum pengguna log masuk, meletakkan mereka dalam kedudukan berasaskan risiko di luar skop tindakan peraturan.

Leon Smith berkata bahawa amalan terbaik semasa untuk mengurus sistem AI hampir tidak melibatkan model bahasa berskala besar, yang merupakan bidang baru muncul yang sedang membangun dengan sangat pesat. Walaupun terdapat banyak kerja yang perlu dilakukan dalam bidang ini, banyak syarikat menawarkan teknologi ini dan tidak membantu menentukannya.

Ketua Pegawai Teknologi OpenAI Mira Muratti juga berkata bahawa alatan AI generatif perlu dikawal, "Adalah penting bagi syarikat seperti kami untuk menyedarkan orang ramai tentang perkara ini dengan cara yang terkawal dan bertanggungjawab." Tetapi dia juga berkata bahawa selain mengawal selia pembekal AI, lebih banyak pelaburan dalam sistem AI diperlukan, termasuk daripada agensi kawal selia dan kerajaan. ”

Atas ialah kandungan terperinci Bagaimana untuk mengawal selia bot AI generatif seperti ChatGPT dan Bard?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
2 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
Repo: Cara menghidupkan semula rakan sepasukan
4 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Adventure: Cara mendapatkan biji gergasi
4 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌

Alat panas

Notepad++7.3.1

Notepad++7.3.1

Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina

SublimeText3 versi Cina

Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

SublimeText3 versi Mac

SublimeText3 versi Mac

Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Pertukaran yang menerbitkan berita PI Pertukaran yang menerbitkan berita PI Mar 28, 2025 pm 03:33 PM

Rangkaian PI belum melancarkan perdagangan secara rasmi di bursa arus perdana. Sehingga 2024, PI masih berada di peringkat menutup rangkaian utama, dan hanya beberapa pertukaran kecil dan sederhana yang memberikan urus niaga IOU. Pegawai tidak membenarkan sebarang urus niaga. Adalah disyorkan untuk saya melalui saluran rasmi dan menunggu rangkaian utama membuka dan berdagang di bursa yang mematuhi.

Bagaimana untuk menyelesaikan masalah antara muka pihak ketiga yang kembali 403 dalam persekitaran Node.js? Bagaimana untuk menyelesaikan masalah antara muka pihak ketiga yang kembali 403 dalam persekitaran Node.js? Mar 31, 2025 pm 11:27 PM

Selesaikan masalah antara muka pihak ketiga yang kembali 403 dalam persekitaran Node.js. Apabila kita menggunakan Node.js untuk memanggil antara muka pihak ketiga, kita kadang-kadang menghadapi kesilapan 403 dari antara muka yang kembali 403 ...

Pertukaran mana yang menyokong HECO Pertukaran mana yang menyokong HECO Mar 28, 2025 pm 03:36 PM

Sehingga 2024, pertukaran utama yang masih menyokong rantaian HECO atau token HECO: 1. HTX (dahulunya Huobi Huobi), secara rasmi menyokong rantaian HECO USDT dan perdagangan token; 2. MDEX, berdasarkan HECO DEX, menyokong perdagangan token rantaian HECO; 3. Gate.io, menyokong penambahan dan penarikan beberapa token rantai HECO; 4. Kucoin, beberapa token rantai HECO masih boleh didagangkan; 5. Pertukaran yang terdesentralisasi seperti Pancakeswap dan UniSwap, perlu transaksi rantaian silang, memberi perhatian kepada kecairan yang rendah rantaian HECO dan penghijrahan projek.

Di Laravel, bagaimana menangani situasi di mana kod pengesahan gagal dihantar melalui e -mel? Di Laravel, bagaimana menangani situasi di mana kod pengesahan gagal dihantar melalui e -mel? Mar 31, 2025 pm 11:48 PM

Kaedah mengendalikan kegagalan e -mel Laravel untuk menghantar kod pengesahan adalah menggunakan Laravel ...

Bagaimana cara menetapkan kebenaran secara automatik UnixSocket selepas sistem dimulakan semula? Bagaimana cara menetapkan kebenaran secara automatik UnixSocket selepas sistem dimulakan semula? Mar 31, 2025 pm 11:54 PM

Bagaimana untuk menetapkan keizinan UnixSocket secara automatik selepas sistem dimulakan semula. Setiap kali sistem dimulakan semula, kita perlu melaksanakan perintah berikut untuk mengubahsuai keizinan UnixSocket: sudo ...

Berapa banyak yang akan meningkat dogecoin pada tahun 2025 Berapa banyak yang akan meningkat dogecoin pada tahun 2025 Mar 28, 2025 pm 03:48 PM

Dogecoin (Doge) boleh dijual antara $ 0.1-1 pada tahun 2025, bergantung kepada kitaran pasaran dan kecemasan: 1. Pasar lembu dan musk boleh menyebabkan Doge meningkat kepada $ 0.5-1; 2. Peningkatan sederhana dan positif tempatan boleh menyebabkan Doge antara $ 0.2-0.5; 3. Bear pasaran dan hits pengawalseliaan boleh menyebabkan Doge jatuh ke $ 0.05-0.1.

Bagaimana untuk melaksanakan penyortiran dan menambah kedudukan dalam tatasusunan dua dimensi PHP? Bagaimana untuk melaksanakan penyortiran dan menambah kedudukan dalam tatasusunan dua dimensi PHP? Apr 01, 2025 am 07:00 AM

Penjelasan terperinci mengenai pelaksanaan penyortiran dan ranking pelbagai dimensi PHP Artikel ini akan menerangkan secara terperinci bagaimana untuk menyusun array dua dimensi PHP dan menggunakan setiap sub-array mengikut hasil penyortiran ...

Mengapa ralat berlaku semasa memasang pelanjutan menggunakan PECL dalam persekitaran Docker? Bagaimana menyelesaikannya? Mengapa ralat berlaku semasa memasang pelanjutan menggunakan PECL dalam persekitaran Docker? Bagaimana menyelesaikannya? Apr 01, 2025 pm 03:06 PM

Punca dan penyelesaian untuk kesilapan Apabila menggunakan PECL untuk memasang sambungan dalam persekitaran Docker Apabila menggunakan persekitaran Docker, kami sering menemui beberapa sakit kepala ...

See all articles