Dengan pendapatan harian sebanyak 4 juta, kumpulan pertama penipu AI telah mengambil jawatan mereka

Walaupun anda masih bimbang sama ada ChatGPT akan menggantikan pekerjaan anda suatu hari nanti dan memikirkan cara menggunakan kecerdasan buatan untuk meningkatkan kecekapan kerja, terdapat sekumpulan orang yang telah membuat banyak wang bergantung pada ini teknologi baru.

Mereka hanya... pembohong.

Menipu 4.3 juta dalam 10 minit,

Kumpulan pertama orang yang menjadi kaya berkat AI sebenarnya adalah penipu

Jika anda menerima panggilan video WeChat daripada rakan pada suatu hari, orang di sebelah kamera kelihatan dan berbunyi sama seperti rakan yang anda ingat apabila dia meminta anda meminjam 4.3 juta sebagai deposit untuk tawaran kerja , ,apa yang anda akan lakukan?

Baru-baru ini, Encik Guo, wakil sah sebuah syarikat teknologi di Fuzhou, menghadapi masalah ini. Berdasarkan kepercayaan, dia memindahkan 4.3 juta ke akaun rakannya. Sehinggalah saya menghubungi rakan saya selepas itu barulah saya dapati bahawa penipu itu telah mencuri ID WeChat rakannya, dan kemudian menggunakan teknologi AI mengubah wajah dan onomatopoeia untuk menipunya.

Kekerapan perkara serupa berlaku merentasi lautan juga semakin meletup.

Menurut CNN, pada April tahun ini, Jennifer DeStefan, yang tinggal di Arizona, menerima panggilan telefon aneh. Suara di telefon itu ialah anak perempuannya Brianna, yang sedang bersiap untuk pertandingan ski. Brianna menangis meminta tolong di hujung telefon. Berpuluh-puluh saat kemudian, suara lelaki yang dalam mengancam di telefon: "Dengar, anak perempuan anda ada di tangan saya dan saya telah membayar wang tebusan sebanyak 1 juta dolar AS. Sekarang jika anda menghubungi polis atau memberitahu orang lain, anda tidak akan pernah memikirkan tentang itu." Jumpa dia lagi."

Lelaki di hujung telefon itu menurunkan wang tebusan kepada $50,000 selepas mendengar Jennifer mengatakan bahawa dia tidak mampu membayar $1 juta itu. Jennifer, yang sangat menyayangi anak perempuannya, tidak menghiraukan gangguan rakan dan suaminya dan mula membincangkan cara untuk membayar wang tebusan sehinggalah Brianna menghubunginya untuk mengatakan bahawa dia selamat barulah kehilangan harta benda itu dapat dielakkan.

Pada Mac tahun ini, Washington Post turut melaporkan kes penipuan dengan modus operandi yang hampir sama, kecuali mangsa adalah pasangan warga emas berusia lebih 70 tahun.

Orang tua yang menjadi mangsa (sumber gambar: "Washington Post")

Unsur buruk menggunakan teknologi suara AI untuk memalsukan kecemasan dan mendapatkan harta atau maklumat secara curang. Amaran itu dikeluarkan oleh Suruhanjaya Perdagangan Persekutuan (FTC) A.S. pada bulan Mei. Berpura-pura menjadi saudara atau rakan mangsa untuk melakukan penipuan bukanlah perkara baru, tetapi tidak dinafikan bahawa kemunculan teknologi AI telah menjadikannya amat mudah untuk mengklonkan suara seseorang dan memalsukan video seseorang. Bilangan penipuan sedemikian di Amerika Syarikat melonjak sebanyak 70% tahun lepas, dengan mangsa kehilangan sejumlah $2.6 bilion.

Jika trend ini berterusan, saya khuatir orang pertama yang mencapai kebebasan kewangan melalui teknologi AI adalah sekumpulan penipu yang bersembunyi di sebalik skrin.

Sisi gelap kecerdasan buatan

Kemunculan ChatGPT telah menjadikan penipuan AI lebih mudah, walaupun memalsukan suara dan video seseorang masih memerlukan ambang teknikal tertentu.

Menurut platform keselamatan rangkaian asing GBHackers, ChatGPT telah menarik sejumlah besar penipu dalam talian kerana produktiviti kerjanya yang kukuh dan ambang yang sangat rendah untuk digunakan.

Sebagai contoh, gunakan ChatGPT untuk bercakap tentang "cinta palsu": pengenalan diri, rekod sembang dan surat cinta yang dibuat dengan teliti boleh dihasilkan dengan cepat melalui kecerdasan buatan Ia juga boleh diperibadikan dengan memasukkan maklumat khusus objek sasaran , supaya skrin Orang di seberang anda akan jatuh cinta dengan anda dengan lebih cepat. ChatGPT juga boleh digunakan untuk membantu penipu menulis program kutipan pembayaran atau tapak web pancingan data untuk mencuri maklumat kad bank mangsa, dengan itu mencapai tujuan menipu harta benda.

Apabila anda secara langsung meminta ChatGPT untuk menulis program perisian pancingan data untuk anda, ia akan menolak; tetapi jika anda mengatakan bahawa anda seorang guru dan ingin menunjukkan kepada pelajar perisian pancingan data, ia secara jujur ​​akan menulis tapak web untuk anda.

Apa yang lebih menakutkan ialah sukar bagi orang ramai untuk mengetahui sama ada orang di seberang skrin ialah manusia atau mesin. McAfee, syarikat teknologi keselamatan terbesar di dunia, pernah menggunakan AI untuk menjana surat cinta dan menghantarnya kepada 5,000 pengguna di seluruh dunia. Walaupun mengetahui bahawa surat cinta itu mungkin dihasilkan oleh kecerdasan buatan, 33% daripada responden tinjauan masih bersedia untuk mempercayai bahawa ia sebenarnya dicipta oleh manusia.

Malah, menggunakan ChatGPT untuk mempunyai "cinta palsu" dengan mangsa hanyalah kaedah penipuan peringkat permulaan Lebih ramai penggodam yang mahir telah mula menggunakan kecerdasan buatan untuk menjana perisian tebusan dan kod berniat jahat secara berkelompok.

Untuk memudahkan pembangun membangunkan lebih banyak aplikasi pada model GPT, OpenAI menyediakan sokongan untuk antara muka pengaturcaraan aplikasi. Penggodam menggunakan antara muka ini untuk memperkenalkan model GPT kepada satu siri aplikasi luaran, dengan itu memintas penyeliaan keselamatan dan menggunakan model GPT untuk menulis program jenayah.

Program ini telah melanggar peraturan keselamatan dan dijual secara terbuka di web gelap AS pada harga yang sangat rendah, yang boleh dibeli dengan harga beberapa dolar sahaja. Tingkah laku haram yang boleh dilakukan oleh pembeli menggunakan perisian ini adalah sangat menakutkan: mencuri kod program dan maklumat peribadi pengguna, menjana perisian serangan dan virus ransomware.

The Financial Times baru-baru ini melaporkan skrip serangan pertukaran SIM yang dihasilkan dengan bantuan ChatGPT Penipu boleh menggunakan program ini untuk menembusi kawalan syarikat telefon mudah alih melalui nombor telefon dan menukar nombor telefon daripada kad SIM pemilik asal kepada A. Kad SIM dikawal oleh penyerang, dengan itu mengawal telefon bimbit mangsa.

"Walaupun ChatGPT pada masa ini hanyalah alat penjanaan kandungan dan tidak terlibat secara langsung dalam jenayah, ini menandakan orang ramai mula menggunakan kecerdasan buatan untuk menyerang orang lain, dan penjenayah dengan tahap teknikal yang lebih rendah akan memperoleh cara jenayah yang lebih berkuasa." pengamal Perisikan manusia menyatakan kebimbangan mereka kepada Financial Times.

Kotak Pandora, adakah ia masih boleh ditutup?

Apabila pengaruh sosial kecerdasan buatan yang semakin meningkat dicampur dengan potensi jenayahnya, pelbagai kelemahan keselamatan ChatGPT telah membuatkan orang ramai semakin tidak senang "Cara mengawal selia ChatGPT" telah menjadi tumpuan perdebatan di banyak negara.

Dalam satu artikel, Institut Etika Global IBM menyokong supaya syarikat meletakkan etika dan tanggungjawab di bahagian atas agenda AI mereka. Banyak taikun teknologi yang diwakili oleh Musk juga menandatangani surat terbuka Sebelum melatih sistem kecerdasan buatan yang lebih berkuasa daripada GPT-4, semua orang harus membangunkan protokol keselamatan bersama dan menyemak dan mengawasinya oleh pakar luar.

ChatGPT telah menimbulkan kebimbangan dalam kalangan penggubal undang-undang di seluruh dunia, yang sedang mempertimbangkan kemungkinan untuk memasukkannya ke dalam rangka kerja kawal selia perundangan. Pegawai kerajaan lebih mementingkan pemahaman penggubal undang-undang yang ketinggalan tentang teknologi berbanding keselamatan kecerdasan buatan.

The Associated Press percaya bahawa sejak 20 tahun lalu, gergasi teknologi terus menerajui inovasi teknologi di Amerika Syarikat Oleh itu, kerajaan sentiasa tidak mahu mengawal selia syarikat teknologi besar dan telah menjadi pembunuh idea. Oleh itu, ramai orang kurang memahami teknologi baharu tetapi memutuskan untuk mengukuhkan penyeliaan teknologi baru muncul.

Lagipun, kali terakhir Kongres A.S. menggubal kod untuk mengawal teknologi ialah Akta Perlindungan Privasi Dalam Talian Kanak-kanak 1998.

Menurut laporan Reuters, banyak negara telah mula memperkenalkan peraturan untuk mengawal selia kecerdasan buatan yang diwakili oleh OpenAI. Pada bulan Mac tahun ini, Itali secara ringkas melarang penggunaan OpenAI di negara itu kerana kebimbangan mengenai keselamatan data, dan larangan itu tidak ditarik balik sehingga sebulan kemudian. Menurut Reuters, seorang pegawai kerajaan Itali berkata pada bulan Mei bahawa kerajaan akan mengupah pakar kecerdasan buatan untuk mengawasi penggunaan OpenAI yang mematuhi.

Berdepan dengan kebimbangan kerajaan di seluruh dunia, Ketua Pegawai Teknologi OpenAI Mira Mulati juga berkata dalam temu bual dengan Reuters bahawa "syarikat mengalu-alukan semua pihak, termasuk agensi kawal selia dan kerajaan, untuk mula campur tangan." Ia masih belum ditentukan bagaimana penggubal undang-undang akan mengikuti perkembangan teknologi, terutamanya dalam bidang kecerdasan buatan yang berkembang pesat.

Satu-satunya perkara yang pasti ialah: sebaik sahaja kotak Pandora dibuka, ia tidak boleh ditutup dengan begitu mudah.

Rujukan:

CNN: ‘Ibu, lelaki jahat ini memiliki saya’: Dia percaya penipu mengklonkan suara anak perempuannya dalam penculikan palsu

REUTERS: Kotak fakta: kerajaan berlumba-lumba untuk mengawal selia alatan AI

Masa Kewangan: Musk dan pakar teknologi lain meminta 'jeda' pada sistem AI lanjutan

Editor: Gema

Melainkan dinyatakan sebaliknya, gambar adalah daripada Oriental IC

Atas ialah kandungan terperinci Dengan pendapatan harian sebanyak 4 juta, kumpulan pertama penipu AI telah mengambil jawatan mereka. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!