Perusahaan memanfaatkan operasi pembelajaran mesin untuk mendapatkan faedah perniagaan

​Apabila syarikat mula menggunakan AI dan melancarkan projek pembelajaran mesin, tumpuan selalunya pada peringkat teori. Adakah terdapat model yang boleh memberikan hasil yang diperlukan? Bagaimana untuk membina model ini?

Tetapi alat yang digunakan oleh saintis data untuk membangunkan bukti konsep ini? selalunya tidak Menterjemah dengan baik kepada sistem pengeluaran. Akibatnya, ia mengambil masa lebih daripada sembilan bulan secara purata untuk menggunakan AI atau penyelesaian pembelajaran mesin, menurut IDC.

Penganalisis IDC Sriram Subramanian berkata: "Kami memanggilnya 'kelajuan model', iaitu masa yang diperlukan untuk model pergi dari awal hingga akhir. Masa. ”

Di sinilah MLOps dimainkan. MLOps (Operasi Pembelajaran Mesin) ialah satu set amalan terbaik, rangka kerja dan alatan yang membantu perusahaan mengurus data, model, penggunaan, pemantauan dan aspek lain dalam mengambil bukti teori konsep dan menggunakan sistem AI.

“MLOp boleh mengurangkan kelajuan model kepada beberapa minggu—kadangkala berhari-hari,” kata Subramanian. "Sama seperti menggunakan operasi pembangunan (DevOps) mengurangkan purata masa untuk membangunkan aplikasi, jadi anda perlu menggunakan MLOps."

Dengan menggunakan MLOps, perusahaan boleh membina lebih banyak model, berinovasi dengan lebih pantas." , dan menangani lebih banyak kes penggunaan. "Proposisi nilai sangat jelas," katanya.

IDC meramalkan bahawa menjelang 2024, 60% perusahaan akan menggunakan MLOps untuk melaksanakan aliran kerja pembelajaran mesin mereka. Subramanian berkata apabila syarikat ditinjau tentang cabaran yang mereka hadapi apabila menggunakan AI dan teknologi pembelajaran mesin, kekurangan MLOps telah muncul sebagai penghalang utama kepada penggunaan AI dan teknologi pembelajaran mesin oleh perusahaan, kedua selepas kos.

Di sini, kita akan melihat apakah MLOP itu, cara ia berkembang dan perkara yang perlu digunakan dan diingat oleh organisasi untuk memanfaatkan sepenuhnya pendekatan baru muncul ini apabila melaksanakan AI teknologi.

Evolusi MLOps

Beberapa tahun lalu, apabila Eugenio Zuccarelli mula-mula mula mereka bentuk pembelajaran mesin Apabila ia melibatkan projek, MLOps hanyalah satu set amalan terbaik. Sejak itu, Zuccarelli telah mengusahakan projek AI di beberapa syarikat, termasuk beberapa dalam perkhidmatan penjagaan kesihatan dan kewangan, dan dari masa ke masa telah melihat MLOps berkembang untuk memasukkan pelbagai alat dan platform.

Hari ini, MLOps menyediakan rangka kerja yang agak berkuasa untuk melaksanakan teknologi AI, kata Zuccarelli, kini seorang saintis data inovasi di CVS Health. Sebagai contoh, Zuccarelli menyebut projek sebelumnya yang dia usahakan untuk membangunkan aplikasi yang boleh meramalkan hasil yang buruk, seperti kemasukan semula hospital atau perkembangan penyakit.

"Kami sedang melihat set data dan model dan bercakap dengan doktor untuk mengetahui ciri-ciri model terbaik," katanya. "Tetapi untuk menjadikan model ini benar-benar berguna, kami perlu meletakkan model ini di hadapan pengguna sebenar." bahagian belakang terdapat sistem pembelajaran mesin yang disambungkan melalui API. "Tanpa MLOps, kami tidak akan dapat menjaminnya," katanya.

Pasukannya mencipta papan pemuka kesihatan untuk model menggunakan platform H2O MLOps dan alatan lain. "Anda tidak mahu model itu berubah dengan ketara," katanya. “Dan anda tidak mahu memperkenalkan papan pemuka kesihatan ini membolehkan kami memahami jika perubahan telah berlaku dalam sistem.”

Menggunakan platform MLOps juga membolehkan kami membuat kemas kini untuk sistem pengeluaran. "Sangat sukar untuk menggantikan fail tanpa menghentikan aplikasi daripada berjalan," kata Zuccarelli. "Walaupun sistem sedang dalam pengeluaran, alatan MLOps boleh menggantikan sistem dengan gangguan minimum kepada sistem itu sendiri."

Beliau berkata apabila platform MLOps matang , platform ini akan mempercepatkan keseluruhan proses pembangunan model, kerana syarikat tidak perlu melakukan beberapa kerja berulang dengan sia-sia untuk setiap projek. Keupayaan pengurusan saluran paip data juga penting untuk melaksanakan AI.

“MLOps akan dimainkan jika kita mempunyai berbilang sumber data yang perlu berkomunikasi antara satu sama lain,” katanya. “Anda mahu semua data yang mengalir ke dalam model pembelajaran mesin adalah konsisten dan berkualiti tinggi Seperti yang mereka katakan, sampah masuk, sampah keluar Jika maklumat yang diberikan kepada model tidak berkualiti, maka ramalannya sendiri akan menjadi Buruk . ”

Asas MLOps: Menggerakkan Sasaran

Tetapi jangan fikir hanya kerana terdapat platform dan alatan yang tersedia sekarang, itu tidak mengapa Abaikan prinsip teras MLOps. Perniagaan yang baru bermula di ruang ini harus ingat bahawa pada terasnya, MLOps adalah mengenai mewujudkan hubungan yang kukuh antara sains data dan kejuruteraan data.

"Untuk memastikan projek MLOps berjaya, anda perlu mempunyai kedua-dua jurutera data dan saintis data dalam pasukan yang sama," kata Zuccarelli.

Selain itu, lengkapkan platform dengan alat yang diperlukan untuk mencegah berat sebelah, memastikan ketelusan, menyediakan kebolehjelasan dan etika sokongan - alat yang masih dalam pembangunan, katanya. "Ia pastinya masih memerlukan banyak kerja kerana ia adalah kawasan yang begitu baharu." begitu cekap apabila melaksanakan teknologi AI. Ini bermakna mempelajari kepakaran semasa kerja, kata Meagan Gentry, pengurus amalan domestik untuk pasukan AI di firma perunding teknologi Insight yang berpangkalan di Tempe.

MLOps merangkumi segala-galanya daripada pengumpulan data, pengesahan dan analisis kepada pengurusan sumber mesin dan prestasi model penjejakan. Beberapa alatan yang membantu perniagaan boleh digunakan di premis, di awan atau di tepi. Alat ini boleh menjadi sumber terbuka atau proprietari.

Tetapi pengetahuan teknikal hanyalah sebahagian daripada penyelesaian. MLOps juga menggunakan kaedah tangkas daripada operasi pembangunan (DevOps) dan prinsip pembangunan berulang, kata Gentry. Selain itu, seperti dalam bidang yang berkaitan dengan pembangunan tangkas, komunikasi adalah penting.

"Komunikasi antara setiap watak adalah penting," katanya. "Komunikasi antara saintis data dan jurutera data. Komunikasi dengan DevOps dan komunikasi dengan pasukan IT yang lebih besar

Untuk syarikat yang baru memulakan perniagaan, MLOps boleh mengelirukan anda. Beberapa prinsip umum boleh dilihat, terdapat berpuluh-puluh vendor, dan terdapat lebih banyak kotak alat sumber terbuka.

"Terdapat beberapa perangkap," kata Helen Ristov, pengurus kanan seni bina perusahaan di Capgemini Americas. "Banyak perangkap ini dalam proses pembangunan. Tiada set garis panduan rasmi seperti yang anda lihat dengan DevOps. Ia adalah teknologi yang sedang berkembang dan beberapa garis panduan serta strategi akan mengambil sedikit masa untuk dibangunkan. ”

Ristov mencadangkan agar perusahaan memulakan perjalanan MLOps mereka daripada platform data mereka. "Mungkin mereka mempunyai beberapa set data, tetapi mereka berada di tempat yang berbeza dan bukan dalam persekitaran yang sangat padu," katanya.

Beliau berkata bahawa perusahaan tidak perlu memindahkan semua data ke satu platform, tetapi mereka memerlukan cara untuk membawa masuk data daripada sumber data yang berbeza, yang mungkin berbeza-beza bergantung pada aplikasi. perbezaan. Sebagai contoh, tasik data adalah sesuai untuk syarikat yang memerlukan storan kos rendah dan kerap melakukan analisis volum tinggi.

Beliau berkata bahawa platform MLOps biasanya menyediakan beberapa alatan untuk membina dan mengurus saluran paip data sambil merekodkan versi data latihan yang berbeza, tetapi ini bukan penyelesaian satu-dan-selesai.

Ia juga menyediakan penciptaan model, pengurusan versi, pengelogan, set ciri ukuran dan aspek lain dalam mengurus model itu sendiri.

"Terdapat banyak pengekodan yang terlibat," kata Ristov, sambil menambah bahawa menyediakan platform MLOps boleh mengambil masa berbulan-bulan, dan apabila ia melibatkan penyepaduan Semasa bekerja, penyedia platform masih mempunyai banyak perkara. kerja yang perlu dilakukan.

"Terdapat banyak pertumbuhan yang menuju ke arah yang berbeza," katanya. "Terdapat banyak alatan sedang dibangunkan, ekosistemnya sangat besar, dan orang ramai hanya memilih dan memilih apa yang mereka perlukan. MLOps masih dalam peringkat yang belum matang. Kebanyakan organisasi masih memikirkan konfigurasi terbaik." >

Fahami landskap MLOps

Subramanian IDC berkata saiz pasaran MLOps dijangka berkembang daripada kira-kira $185 juta pada 2020 menjelang 2025 kepada kira-kira $700 juta. Tetapi dia berkata itu boleh dianggap remeh kerana produk MLOps sering digabungkan dengan platform yang lebih besar. Saiz sebenar pasaran boleh melebihi $2 bilion menjelang 2025, katanya.

Subramanian berkata vendor MLOps biasanya dibahagikan kepada tiga kategori, pertama ialah penyedia awan besar, termasuk Amazon Web Services (AWS), Azure Cloud dan Google Cloud ini menyediakan MLOps fungsi sebagai perkhidmatan.

Kemudian terdapat beberapa vendor platform pembelajaran mesin, seperti DataRobot, Dataiku, Iguazio, dsb.

"Kategori ketiga ialah apa yang mereka gunakan untuk memanggil vendor pengurusan data," katanya. "Syarikat seperti Cloudera, SAS dan DataBricks. Kekuatan mereka adalah dalam keupayaan pengurusan data dan operasi data, kemudian mereka berkembang untuk mempunyai keupayaan pembelajaran mesin, dan akhirnya kepada keupayaan MLOps."

Ketiga-tiga kawasan menyaksikan pertumbuhan yang pesat, kata Subramanian, sambil menambah bahawa kunci untuk menjadikan vendor MLOps menonjol adalah sama ada mereka boleh menyokong penggunaan model di premis dan di awan, dan sama ada mereka boleh melaksanakan AI yang boleh dipercayai dan bertanggungjawab, sama ada mereka boleh menyediakan penyelesaian plug-and-play, dan sama ada penyelesaian mereka boleh dikembangkan dengan mudah. "Di situlah perbezaan antara vendor masuk," katanya.

Menurut tinjauan IDC baru-baru ini, kekurangan kaedah untuk melaksanakan AI yang bertanggungjawab adalah salah satu daripada tiga halangan utama untuk menggunakan AI dan teknologi pembelajaran mesin, terikat di tempat kedua dengan kekurangan MLOps itu sendiri.

Sumit Agarwal, penganalisis penyelidikan untuk AI dan teknologi pembelajaran mesin di perundingan Gartner, berkata ini sebahagian besarnya kerana tiada alternatif untuk menggunakan MLOps.

"Setiap kaedah lain adalah manual," katanya. "Jadi, tidak ada pilihan lain. Jika anda ingin membuat skala, anda memerlukan automasi. Anda memerlukan kebolehkesanan kod anda, data anda dan model anda."

Menurut Gartner Consulting According kepada tinjauan baru-baru ini, purata masa yang diperlukan untuk model untuk beralih daripada bukti konsep kepada pengeluaran telah menurun daripada 9 bulan kepada 7.3 bulan. "Tetapi 7.3 bulan masih kitaran yang panjang," kata Agarwal. “Terdapat banyak peluang untuk organisasi memanfaatkan MLO.”

Alih budaya organisasi kepada MLO

MLOp Perniagaan Analitis Global Genpact juga memerlukan perubahan dalam budaya organisasi dalam pasukan AI syarikat, kata pengetua Amaresh Tripathy.

"Imej biasa yang diberikan kepada ahli saintis data ialah saintis gila yang cuba mencari jarum dalam timbunan jerami," katanya. “Saintis data ialah peneroka dan peneroka, bukan kilang yang mengeluarkan widget tetapi itulah yang anda perlu lakukan apabila anda benar-benar mahu membuat skala.”

dia Kata syarikat cenderung untuk. memandang rendah usaha yang perlu mereka keluarkan.

"Orang ramai mempunyai pemahaman yang lebih baik tentang kejuruteraan perisian," katanya. “Terdapat banyak peraturan tentang pengalaman dan keperluan pengguna tetapi entah bagaimana orang tidak fikir mereka perlu melalui proses yang sama apabila mereka menggunakan model. Terdapat juga salah tanggapan bahawa semua saintis data yang mahir dalam ujian persekitaran Orang ramai secara semula jadi akan menggunakan dan boleh menggunakan model tertentu, atau mereka boleh menghantar beberapa rakan sekerja IT untuk melakukan kerja tersebut Perniagaan masih belum menyedari bahawa MLOps boleh memberi kesan ke atas bahagian lain syarikat, selalunya mengakibatkan perubahan dramatik.

“Anda boleh menggunakan MLOp di pusat khidmat pelanggan, tetapi purata masa tindak balas sebenarnya akan meningkat kerana beberapa tugas mudah dikendalikan oleh mesin dan AI dan diserahkan kepada manusia Pekerjaan itu sebenarnya mengambil masa yang lebih lama kerana ia lebih kompleks," katanya. "Jadi anda perlu memikirkan semula kerja yang akan dilakukan, jenis orang yang anda perlukan, dan kemahiran apa yang perlu ada di sana." daripada 5% keputusan didorong oleh algoritma, tetapi ini berubah dengan cepat. "Kami meramalkan bahawa dalam tempoh lima tahun akan datang, 20% hingga 25% keputusan akan didorong oleh algoritma. Setiap statistik yang kami kaji menunjukkan bahawa kami berada pada titik perubahan dalam pengembangan pesat AI."

MLOps adalah elemen utama, katanya.

"Seratus peratus," katanya. "Anda tidak boleh menggunakan AI secara mampan tanpa MLOp adalah pemangkin untuk mengembangkan penggunaan AI dalam perusahaan."

Atas ialah kandungan terperinci Perusahaan memanfaatkan operasi pembelajaran mesin untuk mendapatkan faedah perniagaan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!