Jangan memandang rendah asas IT apabila mengutamakan AI

GenAI masih memainkan peranan penting dalam banyak projek IT perusahaan. Menurut Harris Poll, dua pertiga daripada pemimpin perniagaan mengatakan mereka telah menggunakan alat GenAI dalam syarikat mereka. IDC meramalkan bahawa pelaburan perusahaan dalam GenAI akan lebih daripada dua kali ganda menjelang 2024.

Walaupun bidang IT terus berkembang, keselamatan, kawalan kos, pengurusan identiti, dsb. masih merupakan bidang utama yang perlu diberi perhatian oleh CIO. Aspek asas ini masih penting kepada organisasi.

Adalah mudah untuk melihat ini sebagai keutamaan bersaing yang bersaing untuk mendapatkan perhatian dan belanjawan CIO, yang kurang berbanding minat lembaga terhadap peluang baharu yang bersinar yang dijanjikan oleh Gen AI, tetapi apabila berjaya melaksanakan projek ini, ternyata mereka bergantung pada seberapa baik organisasi IT melaksanakan elemen asas seperti ketersambungan, kebenaran dan pengurusan konfigurasi.

Dionne Hinchcliffe, Naib Presiden dan Penganalisis Utama di Constellation Research, menegaskan bahawa adalah penting untuk menguasai asas IT hari ini, termasuk asas berbilang awan yang fleksibel, keselamatan rangkaian yang kukuh, privasi data yang berkesan dan kawalan harta intelek. Elemen ini penting untuk merealisasikan potensi AI dan membina silo aplikasi silang yang kukuh dan asas data terbuka Ia seperti papan dan paku yang diperlukan yang memastikan kapal itu bergerak.

Beliau membandingkannya dengan mengatakan bahawa pengetahuan asas IT adalah seperti "makan sayur-sayuran hijau", yang biasa tetapi penting untuk kesihatan jangka panjang dan kekuatan industri IT. Analogi diet seimbang ini menunjukkan bahawa infrastruktur IT yang kukuh dan moden adalah asas untuk AI dan teknologi canggih lain untuk berkembang maju.

Andy Mann, pengasas penganalisis penyelidikan bebas Sagable, bersetuju, sambil menyatakan bahawa operasi dalaman dan fungsi asas infrastruktur IT memainkan peranan penting dalam memacu pembangunan AI, sama seperti "pickaxes and shovels." Beliau percaya bahawa CIO perlu memastikan bahawa beban kerja AI diurus dan dijalankan dengan berkesan, terutamanya memandangkan CIO perlu mengendalikan pelbagai perlindungan dan pemprosesan yang diperlukan oleh aplikasi biasa.

Data Due Diligence

GenAI khususnya mempunyai impak istimewa pada keselamatan data, kata Mann. Bagaimanakah anda mencapai pencegahan kehilangan data apabila anda memberitahu AI anda untuk mencerna semua data ini dan menggunakannya semula

Malah, untuk sebab keselamatan, pematuhan dan kecekapan, CIO akan mahu mengurus dengan teliti apa yang GenAI mempunyai akses kepada data yang mana, contohnya? , Retrieval Augmented Generation (RAG) menjadi teknologi utama yang boleh menjadikan LLM berguna apabila bekerja dengan data anda sendiri - tetapi anda tidak mahu memasukkan semua data, ia lebih daripada sekadar menyediakan satu lebih daripada yang anda perlukan Kos yang lebih besar set data, yang memerlukan beberapa kepakaran yang masih luar biasa dan mendapat gaji yang tinggi, juga termasuk perkara yang anda ajar model tersebut. Masukkan keseluruhan sejarah Slack atau Teams anda, dan anda mungkin akan mendapat respons seperti, "Saya akan lakukan ini esok," yang sangat sesuai untuk pekerja manusia, tetapi bukan seperti yang anda harapkan daripada sistem GenAI.

Christian Buckley, Pengarah Pengurusan Rakan Kongsi di Microsoft MVP dan Rencore, menegaskan bahawa alatan AI seperti Copilot mungkin mendedahkan kelemahan dalam pengurusan maklumat perusahaan, termasuk struktur data dan metadata perusahaan, seni bina maklumat, pembersihan kandungan dan sesetengah perusahaan. ketidakcekapan dalam pengurusan kebenaran dan ketidakcukupan dalam organisasi data.

Apabila kos penyimpanan data menurun, banyak perniagaan mengekalkan data yang tidak diperlukan atau membersihkan data yang lapuk atau tidak lagi berguna selepas pemindahan atau penyusunan semula. "Orang ramai tidak kembali dan membersihkan sampah kerana tiada kos - kecuali profil risiko anda dan prestasi carian anda menurun," kata Buckley. Beliau memberi amaran bahawa memperkenalkan keupayaan GenAI tanpa mengambil kira kebersihan data akan menyebabkan orang ramai kecewa apabila mereka tidak bersedia untuk melakukan secara optimum.

Isu yang sama terbongkar apabila Microsoft melancarkan Delve, selepas itu integrasi Rapid membawa keupayaan carian yang berkuasa kepada SharePoint pada tahun 2010. "Apabila kami mula melihat carian sebenarnya berfungsi dalam SharePoint, orang akan mengadu bahawa ia tidak berfungsi dengan betul, tetapi itulah yang dilakukannya," katanya "Apa yang dilakukannya ialah mendedahkan kekurangan pengurusan data anda. Saya mendengar orang berkata , 'Ini melanggar semua kebenaran saya', tidak, ia muncul di tempat anda mempunyai lubang dalam data anda, anda ingin menggunakan AI dalam data anda untuk mempunyai keupayaan carian yang lebih berkuasa, dan tidak pasti bagaimana anda menggunakan Data ini?”

Satu lagi Masalahnya ialah alat dan pengguna GenAI tidak dapat melihat maklumat yang perlu disertakan kerana tag metadata dan label kepekaan tidak digunakan pada data dengan betul.

Walau apa pun, data yang diurus dengan baik boleh membawa kepada isu pematuhan dan kerahsiaan, seperti rakan kongsi luaran yang mendapat akses kepada alatan Gen AI yang mendedahkan maklumat yang sepatutnya hanya tersedia secara dalaman. Lagipun, projek yang melibatkan lebih ramai pengguna luar perlu menyemak semula maklumat yang sedang diakses dan sama ada akses luaran ini masih sesuai, contohnya jika anda sebuah syarikat multinasional dan pekerja di Perancis ditarik balik daripada HR di bawah polisi persaraan atau cuti ibu bapa Australia . Robot sumber mendapatkan maklumat di sana, walaupun untuk kegunaan dalaman, yang boleh menyebabkan kekeliruan.

Buckley berkata: “Bagaimana anda boleh mengatakan anda bersedia untuk mentadbir AI jika anda tidak tahu kandungan yang anda ada, di mana ia, siapa yang boleh mengaksesnya secara dalaman dan luaran, apa yang dikongsi dan bagaimana ia dilabelkan . Dari perspektif tadbir urus, anda perlu menjejaki perkara yang dilakukan oleh orang ramai, di mana mereka melakukannya, dan cara mereka melakukannya, dan itu akan terus berubah ”

Bekas dan Bukti Kelayakan

Pengurusan keistimewaan bergantung pada pengurusan identiti. . , yang merupakan satu lagi bidang yang memerlukan perhatian berterusan. Memandangkan ekosistem kontena berkembang dan penggunaan Kubernetes yang lebih besar memerlukan kemahiran baharu, banyak CIO masih berebut-rebut untuk mengurus persekitaran untuk aplikasi kontena yang berbeza dengan ketara daripada virtualisasi - apabila perusahaan memutuskan cara untuk bertindak balas terhadap perubahan ketara Broadcom kepada pendekatan pelesenan VMware, peralihan mungkin untuk mempercepatkan tahun ini.

Ini juga bermakna lebih banyak identiti mesin untuk diuruskan, kata Murali Palanisamy, ketua pegawai penyelesaian di penyedia platform IAM AppViewX. "Transformasi digital secara keseluruhan memacu peningkatan ketara dalam penggunaan peranti bersambung, perkhidmatan awan, aplikasi asli awan dan kontena," katanya "Semua komputer tambahan, beban kerja dan perkhidmatan ini memerlukan identiti yang dipercayai, yang memperluaskan keperluan untuk Keperluan untuk pengurusan identiti komputer ”

IoT, keselamatan rantaian bekalan perisian - terutamanya mengurangkan keperluan ini melalui tandatangan kod - dan menggunakan data anda untuk GenAI meningkatkan pergantungan pada sijil TLS dan kunci peribadi untuk penggunaan selamat. Palanisamy menambah: "Apabila aplikasi atau mesin berkomunikasi antara satu sama lain, sebahagian besar daripada mereka menggunakan sijil TLS untuk mewujudkan kepercayaan, mengenal pasti satu sama lain kepada sistem, dan mengesahkan dan menyulitkan komunikasi dengan selamat

Dia percaya, Menjaga identiti mesin ini adalah kritikal dan mengurusnya tidak lagi boleh menjadi proses manual ad hoc, terutamanya dengan Google mencadangkan untuk mengurangkan tempoh sah sijil TLS daripada 398 hari kepada 90 hari, yang memerlukan penggantian yang lebih pantas dan juga Terdapat perubahan peraturan lain yang perlu diberi perhatian. juga: peraturan keselamatan siber baharu SEC bermula pada Disember 2023, Arahan Rangkaian dan Sistem Maklumat EU (NIS2) yang diperluas, dan anjakan keseluruhan untuk menjadikan standard keselamatan berasaskan risiko dan bukannya berasaskan risiko, seperti dalam industri kad pembayaran Standard Keselamatan Data (PCI-DSS) dikemas kini kepada PCI 4.0.

Palanisamy menambah bahawa mengurus identiti komputer juga perlu menjadi kawasan tumpuan keselamatan teras, bergantung pada automasi, pendaftaran automatik dan nyahperuntukan untuk mengawal akses kepada data peribadi dan sensitif. “Identiti mesin memainkan peranan yang penting apabila data perlu dilindungi dalam transit,” katanya “Apabila projek AI berkembang, mengurus identiti komputer adalah penting untuk memastikan kepercayaan serta pengesahan dan penyulitan yang selamat data yang betul boleh diurus dan dikawal, memastikan keselamatan data sensitif dan peribadi Sangat mudah untuk berfikir bahawa projek awan adalah keutamaan yang lebih rendah daripada inisiatif AI baharu yang berkilat," tetapi beliau berkata projek ini sebenarnya adalah asas. seksual. Beliau menambah: "Kelajuan dan ketangkasan diperlukan untuk kejayaan projek AI, jadi keselamatan perlu disepadukan ke dalam infrastruktur awan asas projek AI dari awal

Kawalan Kos

Finop dan kawalan kos untuk perkhidmatan awan." Masih menjadi keutamaan, dengan penggunaan GenAI yang begitu banyak bergantung pada perkhidmatan dan API AI awan, CIO akan mahu mempertimbangkan belanjawan dan automasi, terutamanya untuk pembangunan dan percubaan AI.

"Jika anda mempunyai 100 orang yang melakukan eksperimen AI dan hanya seorang yang terlupa untuk menyahperuntukkan instance mereka, anda akan mendapat bil," kata Mann, beban kerja Pengeluaran juga harus dipantau untuk melihat sama ada anda boleh menggunakan strategi yang sama dan alat untuk mengurus kos beban kerja lain, mengecilkan saiz kepada contoh yang lebih kecil, LLM yang lebih murah atau pelesenan peringkat rendah. “Mengurus Copilot lebih daripada sekadar pengurusan kebenaran,” tambahnya, “orang ramai ingin tahu sama ada lesen yang mereka bayar digunakan

Seperti yang dibuktikan oleh beban kerja awan lain, nilai yang mereka berikan kepada perusahaan berdasarkan lesen dan Panggilan API perlu ditunjukkan Sama seperti kosnya wajar, projek GenAI perlu menilai sama ada ia benar-benar memberikan keuntungan produktiviti dan inovasi yang mereka janjikan.

"Saya sedang menunggu CIO pertama dipecat kerana membiarkan AI berjalan terlalu cepat, terlalu lama," kata Mann Ini adalah disiplin CIO asas pemintasan dan pemprosesan: Apakah portfolio saya dan apakah nilainya? Apa yang saya dapat untuk wang saya dan penggunaan serta kualiti mengurus beban kerja ini, ITSM, gaya disiplin dan pengurusan portfolio ITSM ini akan kembali pulih kerana anda pasti memerlukan tahap disiplin ini untuk menangani beban kerja baharu ini.

Tetapi di kawasan lain, pasukan IT akan mencari untuk meningkatkan belanjawan dan perbelanjaan.

Mempercepatkan Kemas Kini Perkakasan

Dengan Windows 10 ditetapkan untuk tamat tempoh pada 2025, CIO akan merancang untuk berhijrah ke Windows 11 dalam tempoh 18 bulan akan datang, dan mendapatkan peningkatan keselamatan yang dijanjikan secara lalai bermakna melabur dalam peralatan yang dilengkapi dengan CPU generasi baharu untuk PC baharu yang mempunyai arahan yang betul untuk menyokong ciri keselamatan tanpa menjejaskan prestasi.

Semakin banyak peranti ini akan menyertakan Unit Pemprosesan Neural (NPU) atau perkakasan khusus yang serupa untuk mempercepatkan beban kerja AI pada peranti, sama ada mengedit panggilan video dalam masa nyata atau menjalankan Copilot dalam Windows 11, tetapi Advances perkakasan pantas mungkin bermakna CIO perlu membuat belanjawan untuk kitaran penyegaran semula perkakasan yang lebih pendek pada masa hadapan untuk kekal terkini, dan pengurusan aset untuk mengesan pekerja yang mempunyai perkakasan PC yang betul mungkin menjadi kunci untuk mendapatkan keuntungan produktiviti yang dijanjikan daripada AI.

Menyediakan pusat data anda boleh bermakna lebih banyak pelaburan daripada harga yang anda boleh temui pada GPU. Walaupun kebanyakan LLM akan berjalan di awan dan diakses melalui API, menjadikan alat GenAI berguna kepada perniagaan memerlukan menyambungkannya ke sumber data anda sendiri.

Membangun seni bina rangkaian anda untuk mengurangkan kependaman dan menyampaikan sambungan yang lebih baik dengan selamat - sama ada anda melakukan ini melalui 5G, Wi-Fi 6 dan 7, atau sambungan satelit yang baru muncul - adalah kunci untuk menyokong kerja hibrid dan jauh, Tetapi AI akan terus memacu kelebihan selamat keperluan pengkomputeran dan rangkaian.

Di samping itu, Steve Leeper, naib presiden pemasaran produk di syarikat perisian pengurusan data Datadobi, berkata kejatuhan harga mendorong peralihan kepada sistem storan objek serba kilat, memberikan prestasi pangkalan data yang akan bermanfaat untuk proses yang memerlukan pemprosesan dan skalabiliti yang pantas .

Beliau menambah bahawa secara amnya, CIO perlu mempertimbangkan infrastruktur perkakasan saluran paip pemprosesan AI, bermula dengan jumlah dan jenis storan, rangkaian interkoneksi dan ladang GPU untuk pemprosesan AI, dan pemprosesan data: mengenal pasti set data yang sesuai, dalam Cepat dan tepat menempatkan semula data antara titik pada saluran paip pemprosesan - bermakna tiada rasuah data senyap - dan memastikan hasil pemprosesan AI juga dipindahkan ke lokasi dan kelas storan yang sesuai.

Leeper berkata set data GenAI tidak selalunya besar. "Akan ada set data, besar dan kecil," katanya, beberapa daripadanya mengandungi data kritikal yang perlu diproses menggunakan sumber tempatan bergantung pada dasar tadbir urus perusahaan Menguruskan akses AI kepada set data ini sangat bergantung pada CIO .

"Masalah ini hanya boleh diselesaikan jika kita menerapkan disiplin yang kita ada," tambah Mann "Tetapi ia sering tidak dapat diselesaikan kerana tiada siapa yang mengambil alih kerana tiada siapa yang menganggap implikasi jangka panjangnya." Pada awal tahun 2023, Gartner melaporkan bahawa hanya 15% daripada perusahaan sudah mempunyai penyelesaian pengurusan storan data untuk mengklasifikasikan dan mengoptimumkan data, tetapi firma penganalisis itu menjangkakan perkadaran ini meningkat kepada sekurang-kurangnya 40% menjelang 2027.

Atas ialah kandungan terperinci Jangan memandang rendah asas IT apabila mengutamakan AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!