Laporan mengatakan perisian kecerdasan buatan Nvidia boleh dipecahkan dengan mudah, menimbulkan risiko membocorkan privasi pengguna

Menurut Financial Times, perisian kecerdasan buatan Nvidia “NeMo” boleh memintas sekatan keselamatan dengan mudah dan mungkin membocorkan privasi pengguna.

Menurut laporan, NeMo ialah perisian untuk pelanggan perusahaan yang boleh menggabungkan data pengguna perusahaan dengan model bahasa yang besar untuk menjawab soalan pengguna. Senario aplikasinya termasuk perkhidmatan pelanggan dan menjawab soalan perubatan mudah. Syarikat keselamatan maklumat yang berpangkalan di California, Robust berkata dalam laporan bahawa pengguna berniat jahat boleh dengan mudah memintas sekatan keselamatan sistem AI dalaman NeMo. Hanya dalam beberapa jam, penyelidik Robust memintas batasan penggunaan model bahasa ini.

IT House menyedari bahawa dalam salah satu ujian, penyelidik meminta NeMo menggantikan "I" dengan huruf "J", yang menyebabkan NeMo menerbitkan maklumat peribadi Pengguna . Di samping itu, para penyelidik mendapati bahawa walaupun NeMo ditubuhkan untuk hanya memberikan nasihat kerjaya kepada pengguna, soalan berpandu membawa NeMo membincangkan topik seperti kesihatan pelakon Hollywood dan Perang Franco-Prussian. Ini bermakna sekatan dalam sistem yang menghalang AI daripada membincangkan topik tertentu tidak lagi berkuat kuasa.

Naib Presiden Nvidia Jonathan Cohen berkata bahawa seni bina NeMo hanya untuk membantu mencipta chatbots yang mematuhi tema yang ditentukan oleh pembangun, dan ia dikeluarkan kepada pembangun sebagai perisian sumber terbuka. Pada masa ini, kelemahan ini telah diperbaiki. Cohen enggan menyatakan berapa banyak perusahaan menggunakan seni bina NeMo, tetapi menegaskan bahawa Nvidia tidak menerima laporan kelemahan lain.

Atas ialah kandungan terperinci Laporan mengatakan perisian kecerdasan buatan Nvidia boleh dipecahkan dengan mudah, menimbulkan risiko membocorkan privasi pengguna. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!