OpenAI mengumumkan pelancaran 'rangkaian pasukan merah' dan menjemput pakar dari pelbagai bidang untuk menyertai, bertujuan untuk meningkatkan keselamatan model AInya

Menurut berita pada 20 September, OpenAI, sebuah syarikat penyelidikan kecerdasan buatan Amerika, mengumumkan pelancaran "Red Teaming Network" dan menjemput pakar dalam pelbagai bidang untuk menyertai "Red Teaming Network" untuk meningkatkan kecerdasan buatannya ( AI) Keselamatan model.

Langkah OpenAI ini bertujuan untuk memperdalam dan mengembangkan kerjasamanya dengan pakar luar untuk memastikan kebolehpercayaan dan keselamatan Model A.I . Pakar yang dikontrak akan memainkan peranan penting dalam meningkatkan keteguhan sistem kecerdasan buatan OpenAI dengan membantu dalam menilai dan mengurangkan risiko model.

Walaupun OpenAI sebelum ini telah bekerjasama dengan pakar luar melalui program hadiah pepijat dan program akses penyelidik, "Rangkaian Pasukan Merah" yang baru dilancarkan merasmikan usaha ini.

OpenAI berkata "rangkaian pasukan merah" ialah komuniti pakar berpengalaman dan dipercayai yang boleh membantu syarikat menjalankan penilaian risiko secara lebih meluas dan bukannya sekali sahaja sebelum penggunaan model utama Proses Penglibatan dan Pemilihan

Menurut laporan, "pasukan merah" memainkan peranan penting dalam mengenal pasti berat sebelah dalam sistem AI dan menilai penapis keselamatan, dan telah menjadi bahagian penting dalam proses pembangunan model AI, terutamanya sebagai teknologi generatif menjadi lebih meluas digunakan

OpenAI menjemput pakar dari pelbagai bidang, termasuk mereka yang mempunyai latar belakang dalam linguistik, biometrik, kewangan dan penjagaan kesihatan. Syarikat itu menekankan kepentingan pelbagai kepakaran dalam penilaian kecerdasan buatan, meliputi bidang seperti sains kognitif, undang-undang, keselamatan siber, ekonomi dan penjagaan kesihatan

Kenyataan pengiklanan: Kandungan luaran yang terkandung dalam artikel Jump pautan (termasuk tetapi tidak terhad kepada hiperpautan, kod QR, kata laluan, dll.) digunakan untuk menyampaikan lebih banyak maklumat dan menjimatkan masa pemilihan. Semua artikel di laman web ini menyertakan kenyataan ini.

Atas ialah kandungan terperinci OpenAI mengumumkan pelancaran 'rangkaian pasukan merah' dan menjemput pakar dari pelbagai bidang untuk menyertai, bertujuan untuk meningkatkan keselamatan model AInya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!