OpenAI: Kami sedang berusaha untuk mengurangkan berat sebelah ChatGPT dan tingkah laku buruk

Menurut berita pada 17 Februari, OpenAI, syarikat penyelidikan AI di sebalik chatbot popular ChatGPT, berkata bahawa ia sedang berusaha keras untuk mengurangkan berat sebelah dan buruk. tingkah laku dalam sistem dan Pengguna akan dibenarkan untuk menyesuaikan beberapa tingkah laku chatbot. Sebelum ini, terdapat banyak laporan mengenai interaksi ChatGPT yang tidak sesuai dengan pengguna dan hasil yang salah.

OpenAI mengakui dalam catatan blog yang disiarkan di tapak web syarikatnya: "Sejak pelancaran ChatGPT, pengguna telah berkongsi beberapa output yang mereka percaya berat sebelah, menyinggung perasaan atau sebaliknya tidak menyenangkan. Dalam banyak kes, kami mengakui kebimbangan ini, mereka mendedahkan batasan sebenar sistem kami, dan kami ingin menanganinya "

Kami melabur dalam penyelidikan dan kejuruteraan untuk mengurangkan kesan ChatGPT," sambung syarikat itu dalam membalas input yang berbeza Dalam beberapa kes, ChatGPT pada masa ini menolak output yang tidak sepatutnya, manakala dalam kes lain ia tidak "

Langkah OpenAI datang sebagai tindak balas kepada laporan berat sebelah, keputusan yang tidak tepat dan tingkah laku yang tidak sesuai. dalam ChatGPT sendiri, serta kritikan yang lebih meluas daripada Microsoft dan Google terhadap produk carian AI baharu yang sedang diuji. Dalam catatan blog yang diterbitkan pada hari Rabu, Microsoft dilaporkan memperincikan batasan alat sembang Bing baharunya berdasarkan teknologi OpenAI, sementara Google telah meminta pekerja untuk menumpukan lebih banyak masa untuk menambah baik jawapan kepada sistem Bardnya secara manual.

OpenAI juga berkata bahawa syarikat itu sedang meningkatkan pembangunan ChatGPT, termasuk membenarkan setiap pengguna penyesuaian terhad untuk memenuhi citarasa, gaya dan pandangan mereka.

OpenAI menulis dalam catatan blog: "Kami percaya bahawa AI harus menjadi alat yang berguna kepada semua orang, jadi semua orang harus dapat menyesuaikannya dalam had yang ditentukan oleh masyarakat. Ini bermakna membenarkan orang lain untuk String keseimbangan yang betul akan dicapai dengan mengambil penyesuaian secara melampau yang boleh membawa kepada penggunaan teknologi kami secara berniat jahat, atau penciptaan 'AI sycophantic' yang secara membuta tuli menguatkan kepercayaan sedia ada orang ramai Oleh itu, tingkah laku sistem sentiasa perlu terhad. "

Atas ialah kandungan terperinci OpenAI: Kami sedang berusaha untuk mengurangkan berat sebelah ChatGPT dan tingkah laku buruk. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!