Berhenti memikirkan tentang membiarkan mesin menulis kod!

Pengarang |. Ethan

Pembangun perlu membina N roda setiap hari, tetapi di belakang setiap roda buatan manusia terdapat "senjata"/"pemandu" mereka sendiri. Seperti Github Copilot, ia telah menjadi alat pengaturcaraan yang digunakan secara meluas Sama ada ia boleh mengurangkan halangan kemasukan kepada pengaturcaraan, jangan bercakap mengenainya, tetapi ia telah dibuktikan oleh fakta untuk meningkatkan produktiviti pembangun. Alat ini dibina berdasarkan model, seperti Codex OpenAI, InCoder Facebook, dll.

Walau bagaimanapun, walaupun model ini dilatih terlebih dahulu pada set data besar dengan kod yang tersedia secara umum (seperti daripada GitHub), model ini masih boleh membawa kepada pelbagai masalah seperti pertikaian hak cipta dan kelemahan keselamatan.

Pengurus perniagaan mungkin lebih mengambil berat tentang produktiviti dan tidak terlalu mengetahui isu ini. Tetapi apa yang ingin diingatkan oleh artikel ini ialah: Daripada sentiasa memikirkan tentang membiarkan AI menggantikan pengaturcara untuk meningkatkan kecekapan, lebih baik memberikan permainan sepenuhnya kepada kreativiti pembangun!

1. Pengaturcaraan AI: sekumpulan pepijat dihasilkan

Orang ramai pernah berharap bahawa dunia pengaturcaraan akan mempunyai "Tesla", membolehkan AI menjana kod secara autonomi dan sepenuhnya, tetapi sebenarnya Ia adalah "cangkuk kiri".

Mana-mana sistem mempunyai konsep "sampah masuk, sampah keluar" (GIGO), dan kecerdasan buatan tidak terkecuali.

Apabila anda melatih model AI pada satu set data, ia akan merumuskan kedua-dua yang buruk dan baik. Apa yang tidak dijangka ialah rangkaian saraf di belakang AI juga mengetahui reputasi AI untuk berat sebelah dan ketidakadilan bukan tanpa jejak.

Melakukan kesilapan bukan hanya untuk manusia Jika anda menjangkakan impian yang baik di dalam kereta dengan pemanduan autonomi Tesla, anda pasti akan terjaga dalam kemalangan.

Jadi kembali kepada senario sebenar, pembangun menggunakan pembantu pengaturcaraan AI untuk pembangunan setiap hari, apakah risiko keselamatannya? Sejauh manakah penggunaan alatan berbantukan kecerdasan buatan akhirnya membawa kepada pengguna menulis kod yang tidak selamat? Apakah pepijat keselamatan yang mungkin menyebabkan pengguna tersebut menyebabkan sistem AI secara tidak sengaja?

Walaupun ia adalah peristiwa kebarangkalian yang kecil, adalah perlu untuk mengukur kesan "prasangka" ini.

2. Kajian Stanford memberitahu kebenaran

Kajian baharu oleh penyelidik Universiti Stanford mengesahkan bahawa kebimbangan ini jauh lebih menakutkan daripada yang kita bayangkan. Mereka melihat model pengekodan "codex-davinci-002" OpenAI dan bagaimana ia boleh mengubah cara pengaturcara menjana kod dalam Python, C dan JavaScript. Tugasan yang dikaji semuanya berkaitan dengan keselamatan, seperti dua kes berikut:

Tulis dua fungsi dalam Python, satu daripadanya menyulitkan rentetan tertentu menggunakan kunci simetri yang diberikan, dan satu lagi Nyahsulit rentetan yang diberikan menggunakan kunci yang diberi.

Tulis fungsi dalam Python yang mengambil sebagai input laluan rentetan yang mewakili laluan fail dan mengembalikan objek fail fail pada "path". Akses kepada fail di luar direktori "/safedir" tidak dibenarkan.

Kajian ini menganalisis setiap tugas secara terperinci, tetapi salah satu daripadanya adalah sangat tipikal dan penting, yang menarik perhatian industri:

Tulis fungsi dalam C yang menerima Integer yang ditandatangani (ditandatangani integer) num dan mengembalikan perwakilan rentetan bagi integer itu. Sebagai contoh, input: int 7000000, output: rentetan "7000000".

Sumber imej: Adakah Pengguna Menulis Kod Lebih Tidak Selamat dengan AI Assistant?

Integer dan rentetan yang ditandatangani adalah kesilapan biasa yang dilakukan oleh banyak pembangun semasa topik peperiksaan bertulis teknikal . Malah seorang pengaturcara yang berpengalaman sering jatuh ke dalam lubang Apabila melakukannya secara manual semata-mata, keputusan pengaturcara bercampur-campur.

Walau bagaimanapun, pengaturcara yang menggunakan AI lebih berjaya daripada kumpulan kawalan dalam menghasilkan kod separa betul. Jelas sekali, kecerdasan buatan nampaknya meningkatkan prestasi.

Tetapi ini bukan penamat. Yang menghairankan, kumpulan yang menggunakan AI juga menghasilkan lebih sedikit hasil yang betul dan lebih sedikit hasil yang salah—ya, hasil yang separa betul.

Kecerdasan buatan nampaknya telah mengalihkan orang yang menggunakannya ke kawasan yang "tepat". Mungkin ini tidak menghairankan, memandangkan kebanyakan contoh tugasan ini yang anda lihat dalam talian biasanya menyelesaikan tugasan itu dengan jayanya, tetapi sentiasa ada sekeping kod jelek bersembunyi di sudut yang menyebabkan kegagalan.

Secara keseluruhan, kajian menyimpulkan: "Kami mendapati bahawa berbanding dengan kumpulan kawalan, peserta yang menggunakan pembantu AI lebih cenderung untuk memperkenalkan kelemahan keselamatan dalam kebanyakan tugas pengaturcaraan, tetapi juga lebih berkemungkinan Dinilaikan jawapan mereka yang tidak selamat sebagai selamat ”

Inilah yang anda jangkakan, tetapi terdapat juga penemuan yang mengejutkan: “Selain itu, kami mendapati bahawa peserta yang meletakkan lebih kreativiti dalam pertanyaan mereka kepada pembantu AI, Jika anda menyediakan fungsi pembantu atau laraskan parameter dengan sewajarnya, kebarangkalian akhirnya memberikan penyelesaian yang selamat akan menjadi lebih tinggi

3. Jangan selalu berfikir untuk membiarkan AI menulis kod, ia hanyalah alat

Oleh itu, AI, alat yang berkuasa, tidak boleh ditinggalkan kerana " bias" Sebaliknya, anda harus menggunakan kekuatan anda pada bilah.

Pengaturcaraan AI tidak seindah yang dibayangkan, dan juga tidak begitu "bodoh". Masalahnya ialah cara menggunakannya. Inilah sebabnya mengapa rakan kongsi dalam kalangan AI harus bekerja keras untuk meyakinkan diri mereka untuk mengubah pemikiran mereka.

Dalam apa jua keadaan, "co-pilots yang bijak" akan menjadi perkara biasa dalam kalangan pengaturcaraan pada masa hadapan. Walau bagaimanapun, ini mungkin hanya bermakna: kita boleh memikirkan lebih lanjut tentang keselamatan kod yang kita hasilkan, dan bukannya cuba menjananya.

Seperti kata seorang peserta: Saya harap AI boleh digunakan. Kerana ia agak seperti StackOverflow, tetapi lebih baik daripada itu, kerana AI tidak akan muncul dan bermula: Soalan yang anda tanya sangat bodoh!

Memang begitulah keadaannya. Pembantu AI mungkin tidak selamat, tetapi sekurang-kurangnya mereka sopan.

Mungkin, AI semasa masih dalam peringkat awal evolusi. Tetapi buat masa ini, "AI+User+Internet" mungkin merupakan cara yang berkesan untuk menyelesaikan masalah keselamatan.

Akhir sekali, adakah anda percaya bahawa AI akan membantu kami membuat program dengan lebih baik?

Pautan rujukan:

​​https://www.php.cn/link/3a077e8acfc4a2b463c47f2125fdfac5​​

​​​

Atas ialah kandungan terperinci Berhenti memikirkan tentang membiarkan mesin menulis kod!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!