Perkongsian CIO: Cara memanfaatkan AI generatif dalam perusahaan

AI Generatif membawa peluang yang inovatif kepada perusahaan, tetapi dalam era baharu ini, pengurus kanan perlu memberi perhatian yang teliti terhadap aplikasi AI generatif untuk memastikan kualiti kod dan mengurangkan risiko teknikal. Eksekutif harus menilai dengan teliti kebolehpercayaan dan keselamatan penyelesaian AI dan membangunkan langkah pemantauan yang berkesan untuk mengesan dan membetulkan potensi masalah tepat pada masanya. Dengan mewujudkan standard teknikal yang ketat dan mekanisme pengawasan, perusahaan boleh memanfaatkan dengan lebih baik

AI Generatif mula mengubah organisasi pada peringkat awal dan mempunyai impak yang mendalam terhadap strategi IT. Walaupun model bahasa yang besar mempercepatkan ketangkasan kejuruteraan, mereka juga mencipta masalah dengan hutang teknikal. Stephen O'Grady, penganalisis utama dan pengasas bersama Red Monk, menegaskan: "Sistem generatif mungkin meningkatkan kelajuan penjanaan kod, yang membawa kepada pengumpulan hutang teknikal

Tetapi ini tidak seharusnya menghalang CIO daripada meneroka dan melaksanakan." AI, Juan Perez, naib presiden kanan dan ketua pegawai maklumat di Salesforce, tambah. Dia melihat AI sebagai aplikasi yang memerlukan tadbir urus yang betul, kawalan keselamatan, penyelenggaraan dan sokongan serta pengurusan kitaran hayat. Beliau berkata apabila bilangan produk AI terus meningkat, pemilihan model yang paling sesuai dan data asas adalah penting untuk menyokong perjalanan AI.

Jika digunakan dengan betul, AI generatif boleh menghasilkan produk berkualiti tinggi pada kos yang lebih rendah. Neal Sample, ketua pegawai maklumat Walgreens Boots Alliance, berkata: "Ini bukan persoalan sama ada AI akan memberi kesan positif kepada keseluruhan perniagaan, tetapi sejauh mana dan kepantasan impaknya." , peraturan kerajaan dan tadbir urus korporat adalah amat penting.

AI Generatif: Teras strategi IT

Model pembelajaran mesin mempunyai potensi untuk membolehkan lelaran IT yang lebih pantas. Andrea Malagodi, ketua pegawai maklumat platform ujian kod Sonar, berkata bahawa sekurang-kurangnya model ini boleh mengautomasikan tugasan rutin dan berulang tersebut, sekali gus membebaskan lebar jalur pembangun perisian supaya mereka boleh menumpukan pada kerja yang lebih kreatif dan lebih tinggi. “Melabur dalam alatan AI generatif untuk menyokong pasukan ini adalah pelaburan dalam pertumbuhan, produktiviti dan kepuasan keseluruhan mereka,” katanya

Meerah Rajavel, ketua pegawai maklumat di Palo Alto Networks, menambah bahawa AI generatif akan memudahkan pembangunan, terutamanya kod. penjanaan untuk bahasa pengaturcaraan matang seperti Java, Python dan C++, tetapi kuasanya tidak berhenti di situ. Dia percaya bahawa AI boleh membantu mengalihkan ujian kod ke kiri untuk membantu dengan ujian unit, penyahpepijatan dan mengenal pasti salah konfigurasi pada awal kitaran pembangunan perisian. "Sebagai CIO, menyediakan alat terbaik kepada pembangun kami untuk membantu mereka berjaya adalah komponen utama tugas saya, dan AI sudah pasti akan membantu memacu kecekapan

AI untuk syarikat platform automasi tanpa kod, Ketua Pegawai Maklumat Workato, Carter Busse." pusat strategi IT tahun ini. Walau bagaimanapun, potensi AI tidak terhad kepada bidang IT Ia juga boleh memainkan peranan dalam sokongan pelanggan, meningkatkan produktiviti dan mempromosikan inovasi merentas jabatan. Busse menegaskan: "Misi CIO adalah untuk menyokong pembangunan perniagaan yang cekap, dan AI ialah cara utama untuk kami memajukan dengan ketara AI boleh mempromosikan operasi merentas jabatan, mencipta lebih banyak nilai untuk perusahaan dan mempromosikan." pembangunan keseluruhan organisasi.

Jadi penjanaan kod bukan satu-satunya kawasan yang mendapat manfaat daripada gelombang AI terkini. Sunny Bedi, ketua pegawai maklumat dan ketua pegawai data di syarikat gudang data awan Snowflake, berkata produktiviti pekerja paling terjejas. Beliau meramalkan bahawa pada masa hadapan, semua pekerja akan bekerjasama rapat dengan pembantu AI untuk membantu memperibadikan pengalaman onboarding untuk pekerja baharu, menyelaraskan komunikasi dalaman dan prototaip idea inovatif. Beliau menambah bahawa dengan memanfaatkan keupayaan luar biasa model bahasa besar, perusahaan juga boleh mengurangkan pergantungan mereka kepada pihak ketiga untuk operasi seperti carian, pengekstrakan dokumen, penciptaan dan semakan kandungan serta chatbots.

Cara AI mengurangkan hutang teknikal

Model AI Generatif bukanlah penyumbang utama kepada hutang IT, sebaliknya bagaimana ia digunakan. "Aspek yang anda pilih untuk melaksanakan AI dalam organisasi anda, dan cara anda melaksanakannya, perlu dipertimbangkan dengan teliti untuk mengelakkan penciptaan hutang teknikal," kata Sample lagi bahawa apabila menggunakan model AI pada ekosistem teknologi sedia ada (. cth., apabila menggunakan warisan Mengubah suai sambungan dan menyepadukan AI generatif pada masa yang sama dalam timbunan meningkatkan risiko terkumpul hutang teknikal.

Sebaliknya, jika digunakan dengan betul, AI generatif boleh membantu menghapuskan hutang teknikal lama dengan menulis semula aplikasi lama dan mengautomasikan tugasan tertunggak. Walau bagaimanapun, CIO tidak sepatutnya masuk tanpa persekitaran dan strategi awan yang betul. "Jika organisasi melaksanakan AI generatif terlalu awal, hutang teknikal sedia ada mungkin terus berkembang atau, dalam beberapa kes, menjadi hutang teknikal jangka panjang," kata Steve Watt, ketua pegawai maklumat di Hyland, syarikat di sebalik suite perisian pengurusan perusahaan OnBase. . Oleh itu, dia mengesyorkan membangunkan rancangan untuk menangani hutang teknikal sedia ada supaya inisiatif dipacu AI baharu tidak runtuh.

Pada mulanya, perusahaan mungkin meningkatkan hutang IT apabila bereksperimen dengan AI dan model bahasa yang besar. Tetapi Busse percaya bahawa dalam jangka panjang, model bahasa yang besar akan mengurangkan hutang, tetapi ini bergantung pada keupayaan AI untuk bertindak balas secara dinamik kepada keperluan yang berubah-ubah. “Dengan membenamkan AI ke dalam proses perniagaan anda, anda akan dapat menyesuaikan diri dengan proses perubahan dengan lebih pantas, sekali gus mengurangkan hutang teknikal,” katanya

Nilai kualiti kod AI

Baru-baru ini, kebimbangan telah dibangkitkan tentang kualiti AI. -generated code Sebagai tindak balas kepada keraguan, laporan telah menekankan bahawa perubahan kod dan penggunaan semula kod telah meningkat sejak kemunculan pembantu AI. O'Grady dari Red Monk berkata kualiti kod yang dijana oleh AI bergantung pada banyak faktor, termasuk model yang digunakan, kes penggunaan di tangan, dan kemahiran pembangun. “Sama seperti pembangun manusia, sistem AI mengeluarkan kod yang cacat, dan akan terus melakukannya pada masa hadapan

Sebagai contoh, Sonar’s Malagodi memetik kajian Microsoft Research baru-baru ini yang menilai 22 model, mendapati bahawa model ini secara umumnya berprestasi buruk pada penanda aras, mencadangkan titik buta asas dalam suasana latihan. Laporan itu menjelaskan bahawa walaupun pembantu AI boleh menjana kod berfungsi, ini tidak selalu melangkaui ketepatan fungsi untuk mempertimbangkan konteks lain seperti kecekapan, keselamatan dan kebolehselenggaraan, apatah lagi mematuhi konvensyen pengekodan.

Malagodi percaya bahawa masih banyak ruang untuk penambahbaikan dalam bidang ini. "Walaupun AI generatif boleh menjana lebih banyak baris kod dengan lebih pantas, jika kualitinya tidak baik, proses itu boleh menjadi sangat memakan masa," katanya menggesa CIO dan CTO untuk mengambil langkah yang perlu untuk memastikan bahawa kod yang dihasilkan oleh AI adalah bersih. “Ini bermakna kod yang dijana oleh AI adalah konsisten, disengajakan, boleh disesuaikan dan bertanggungjawab, menghasilkan perisian yang selamat, boleh diselenggara, boleh dipercayai dan boleh diakses

Isu kualiti pada akar model ini boleh menjejaskan output kod. Alastair Pooley, ketua pegawai maklumat platform risikan teknologi awan Snow Software, berkata walaupun AI generatif berpotensi untuk menghasilkan keputusan teknikal yang cemerlang, kualiti data, seni bina model dan prosedur latihan mungkin membawa kepada keputusan yang tidak baik. "Model yang kurang terlatih atau kes kelebihan yang tidak dijangka boleh mengakibatkan kualiti keluaran merosot, memperkenalkan risiko operasi dan menjejaskan kebolehpercayaan sistem," katanya semua ini memerlukan semakan dan pengesahan output dan kualiti yang berterusan.

Rajavel dari Palo Alto Networks menambah bahawa AI adalah sama seperti alat lain, hasilnya bergantung pada alat yang anda gunakan dan cara anda menggunakannya. Baginya, tanpa tadbir urus AI yang betul, model yang anda pilih mungkin menghasilkan artifak berkualiti rendah yang tidak sejajar dengan seni bina produk dan hasil yang dijangkakan. Beliau menambah bahawa satu lagi faktor penting ialah AI yang anda pilih untuk tugas yang sedang dijalankan, kerana tiada satu model yang sesuai untuk semua.

Senarai Risiko AI Berpotensi

Selain hutang IT dan kualiti kod, terdapat pelbagai hasil yang berpotensi buruk untuk dipertimbangkan apabila menggunakan AI generatif. "Isu ini mungkin melibatkan privasi dan keselamatan data, kecenderungan algoritma, anjakan pekerjaan, dilema etika kandungan yang dijana AI, dan lain-lain," kata Pooley.

Satu aspek ialah individu yang berniat jahat menggunakan AI generatif untuk melancarkan serangan. Rajavel menyatakan bahawa penjenayah siber telah mula memanfaatkan teknologi ini untuk melakukan serangan berskala besar, kerana AI generatif mampu merangka kempen pancingan data yang meyakinkan dan menyebarkan maklumat yang salah. Penyerang juga boleh menyasarkan alat dan model AI generatif itu sendiri, menyebabkan kebocoran data atau meracuni output kandungan.

O'Grady berkata: "Sistem generatif mempunyai potensi untuk mempercepatkan dan membantu penyerang, bagaimanapun, boleh dikatakan bahawa kebimbangan terbesar bagi banyak perusahaan ialah kebocoran data peribadi daripada sistem vendor tertutup

Teknologi ini boleh menghasilkan keputusan yang sangat mengejutkan, tetapi hasilnya juga mungkin penuh dengan kesilapan. Selain ralat dalam model, terdapat implikasi kos yang perlu dipertimbangkan, dan mudah untuk membelanjakan banyak wang untuk AI tanpa disedari atau tidak perlu, sama ada dengan menggunakan model yang salah atau tidak memahami kos penggunaan , masih tidak digunakan dengan berkesan.

Perez berkata: "AI bukan tanpa risiko. Ia perlu dibina dari bawah ke atas, dengan manusia mengawal semua kawasan, untuk memastikan sesiapa sahaja boleh mempercayai keputusannya - daripada pengguna paling asas kepada jurutera yang paling berpengalaman." Perez Satu lagi isu yang tidak dapat diselesaikan ialah pembangunan AI dan pemilikan penyelenggaraan, yang turut memberi tekanan kepada pasukan IT untuk bersaing dengan permintaan untuk inovasi, kerana ramai pekerja IT kekurangan masa untuk melaksanakan dan melatih model dan algoritma AI, katanya.

Masalah yang tidak boleh diabaikan: pekerjaan

Lalu ada hasil yang menarik perhatian media arus perdana: AI menggantikan tenaga kerja manusia. Tetapi bagaimana AI generatif akan memberi kesan kepada pekerjaan dalam industri IT masih belum ditentukan. "Sukar untuk meramalkan kesan ke atas pekerjaan pada masa ini, jadi itu potensi kebimbangan," kata O'Grady.

Walaupun sudah pasti terdapat pelbagai sudut pandangan dalam perdebatan ini, Walgreen's Sample tidak percaya AI menimbulkan ancaman wujud kepada manusia. Sebaliknya, dia optimistik tentang potensi AI generatif untuk meningkatkan kehidupan pekerja. Beliau berkata: "Pandangan negatif ialah AI akan menjejaskan banyak pekerjaan, tetapi pandangan positif ialah AI akan menjadikan manusia lebih baik. Akhirnya, saya fikir AI akan menghapuskan keperluan untuk orang ramai melakukan tugasan berulang yang boleh diautomasikan. tugas dan boleh fokus pada kerja peringkat lebih tinggi ”

Cara mengurangkan kebimbangan tentang AI

Terdapat banyak cara untuk mengurangkan kebimbangan tentang AI. Bagi Perez, kualiti AI generatif bergantung pada data yang diambil oleh model ini. "Jika anda mahukan AI yang berkualiti tinggi dan boleh dipercayai, anda memerlukan data yang berkualiti tinggi dan boleh dipercayai," katanya, masalahnya, bagaimanapun, adalah bahawa data sering penuh dengan ralat dan memerlukan alat untuk menyepadukan data daripada sumber yang berbeza dan dalam format yang berbeza. daripada data tidak berstruktur. Dia juga menekankan bukan hanya "dalam permainan" tetapi meletakkan manusia lebih di tempat duduk pemandu. “Saya melihat AI sebagai penasihat yang dipercayai, tetapi bukan satu-satunya pembuat keputusan

Untuk mengekalkan kualiti perisian, ujian yang teliti juga diperlukan untuk menyemak sama ada kod yang dihasilkan oleh AI adalah tepat. Untuk tujuan ini, Malagodi menggalakkan perusahaan untuk menggunakan pendekatan "bersih kod", termasuk analisis statik dan ujian unit, untuk memastikan pemeriksaan kualiti yang betul. “Apabila pembangun menumpukan pada amalan terbaik kod bersih, mereka boleh yakin bahawa kod dan perisian mereka adalah selamat, boleh diselenggara, boleh dipercayai dan boleh diakses

Seperti mana-mana teknologi baharu, Bedi menambah, keghairahan awal perlu diatasi dengan sewajarnya.” berhati-hati. Oleh itu, pemimpin IT harus mempertimbangkan langkah-langkah untuk menggunakan pembantu AI dengan berkesan, seperti alat pemerhatian, yang boleh mengesan hanyut seni bina dan penyediaan sokongan untuk keperluan aplikasi.

Tadbir urus sekitar penggunaan AI

Pooley berkata: "AI Generatif mewakili era baharu kemajuan teknologi, dan jika diuruskan dengan betul, ia berpotensi untuk membawa manfaat yang besar, bagaimanapun, beliau mencadangkan agar CIO mempunyai keseimbangan antara inovasi dan risiko yang wujud, dan khususnya kawalan dan panduan mesti disediakan untuk mengehadkan pelanggaran data akibat daripada penggunaan alat ini yang tidak terkawal. "Seperti banyak peluang teknologi, CIO mendapati diri mereka bertanggungjawab jika berlaku kesilapan

Untuk Contoh, pengawal selia mempunyai tanggungjawab untuk menangani sepenuhnya risiko yang ditimbulkan oleh AI kepada masyarakat. Sebagai contoh, beliau menunjuk kepada perintah eksekutif baru-baru ini yang dikeluarkan oleh pentadbiran Biden untuk mewujudkan standard keselamatan AI baharu. Satu lagi aspek ialah menerajui dalam membangunkan garis panduan korporat untuk mengurus teknologi pantas ini Contohnya, Walgreens telah mula membangunkan rangka kerja tadbir urus sekitar AI yang merangkumi pertimbangan seperti keadilan, ketelusan, keselamatan dan kebolehjelasan.

Workato's Busse juga menyokong pembangunan arahan dalaman untuk mengutamakan keselamatan dan tadbir urus. Dia mengesyorkan melatih pekerja, membangunkan buku permainan dalaman dan melaksanakan proses kelulusan untuk eksperimen AI. Pooley menyatakan bahawa banyak syarikat telah menubuhkan kumpulan kerja AI untuk membantu menangani risiko dan memanfaatkan manfaat AI generatif. Sesetengah organisasi yang mementingkan keselamatan mengambil langkah yang lebih ketat. O'Grady menambah bahawa untuk mengelakkan penembusan, ramai pembeli akan tetap mengutamakan sistem di premis.

Perez berkata: "CIO harus memimpin dalam memastikan pasukan mereka mempunyai latihan dan kemahiran yang sesuai untuk mengenal pasti, membina, melaksanakan dan menggunakan AI generatif dengan cara yang memberi manfaat kepada organisasi Salesforce sebagai Bagaimana untuk membina lapisan kepercayaan antara input dan output AI untuk meminimumkan risiko yang berkaitan dengan menggunakan teknologi berkuasa ini.

Sebenarnya, penggunaan AI yang disengajakan dan tadbir urusnya adalah sama penting. "Organisasi sedang tergesa-gesa untuk melaksanakan AI tetapi tidak tahu apa yang dilakukannya dan cara terbaik untuk memberi manfaat kepada perniagaan mereka," kata Hyland's Watt tidak akan menyelesaikan setiap masalah, jadi penting untuk memahami masalah yang boleh diselesaikan , dan masalah yang tidak boleh diselesaikan, adalah penting untuk mengetahui cara memaksimumkan penyelesaian kepada masalah tersebut.

Impak positif terhadap perniagaan

Dengan pemeriksaan yang betul, AI generatif akan meningkatkan ketangkasan dalam pelbagai bidang, dan CIO menjangkakan AI generatif akan digunakan untuk mencapai hasil perniagaan yang ketara, seperti pengalaman pengguna. Perez berkata: "AI Generatif akan membolehkan perusahaan mencipta pengalaman untuk pelanggan yang pernah dirasakan mustahil. AI bukan lagi sekadar alat untuk pasukan khusus. Semua orang akan berpeluang menggunakannya untuk meningkatkan produktiviti dan kecekapan

Tetapi pengguna Faedah pengalaman tidak terhad kepada pelanggan luar. Pengalaman pekerja dalaman juga akan mendapat manfaat, tambah Rajavel. Dia meramalkan bahawa pembantu AI yang dilatih mengenai data dalaman boleh mengurangkan permintaan IT kepada separuh dengan hanya mengambil jawapan yang sudah tersedia di halaman korporat dalaman.

Sampel berkata Walgreens juga meningkatkan pengalaman pelanggan melalui pembantu suara, chatbot dan mesej teks dipacu AI generatif. Dengan mengurangkan volum panggilan dan meningkatkan kepuasan pelanggan, ahli pasukan boleh memberi tumpuan yang lebih baik pada pelanggan dalam kedai. Selain itu, syarikat itu telah menggunakan AI untuk mengoptimumkan operasi dalam kedai seperti rantaian bekalan, ruang lantai dan pengurusan inventori, membantu pemimpin membuat keputusan tentang hasil dan keuntungan perniagaan. Tetapi kewaspadaan adalah kunci.

O'Grady berkata: "Seperti semua gelombang teknologi sebelumnya, AI sudah pasti akan membawa impak negatif yang ketara dan kerosakan cagaran. Secara keseluruhan, AI akan mempercepatkan pembangunan dan meningkatkan keupayaan manusia, tetapi pada masa yang sama meluaskan Julat isu dengan banyak "

.

Atas ialah kandungan terperinci Perkongsian CIO: Cara memanfaatkan AI generatif dalam perusahaan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!