MLOps: Adakah perniagaan mengulangi kesilapan DIY yang sama?

​Penterjemah |. Cui Hao

Penilai |. adalah sebab untuk membina infrastruktur pengkomputeran awan anda sendiri. Sepanjang dekad yang lalu, pasukan infrastruktur IT telah cuba membina awan peribadi mereka sendiri kerana mereka percaya mereka akan menyokong perniagaan mereka dengan lebih efektif daripada kos daripada awan awam. Tetapi bertentangan dengan jangkaan, masa dan kos yang dibelanjakan untuk awan persendirian melebihi jangkaan Selepas awan persendirian dibina, lebih banyak sumber diperlukan untuk mengekalkannya, dan ia sedikit lebih rendah daripada awan awam dari segi keselamatan dan pengembangan. Akibatnya, syarikat yang membina awan peribadi mereka sendiri akhirnya tidak mempunyai lebih banyak sumber untuk melabur dalam perniagaan teras, sebaliknya melaburkan banyak masa dan kakitangan dalam infrastruktur yang tidak dapat mengembangkan keperluan perniagaan.

Kini, banyak perusahaan menjana penyelesaian melalui pelbagai alatan sumber terbuka (seperti Apache Spark), tetapi kebanyakan tindakan untuk MLOp memerlukan operasi manual yang berulang.

Ini mengakibatkan penggunaan model mengambil masa berminggu-minggu atau bahkan berbulan-bulan, masa jalan yang tidak cekap (diukur dengan pengiraan dan inferens mengambil masa untuk dijalankan), dan kekurangan pemerhatian untuk ujian dan pemantauan model. Selain itu, pendekatan yang digunakan terlalu disesuaikan untuk menyediakan proses perniagaan boleh skala dan boleh diguna semula untuk berbilang kes penggunaan di bahagian perusahaan yang berlainan.

Contoh masalah yang salah didiagnosis

Selain itu, melalui perbualan dengan pemimpin barisan perniagaan dan ketua pegawai analitik data, disimpulkan bahawa walaupun organisasi mengupah ramai saintis data, ia tidak melihat kepada sebarang pulangan. Apabila penyelidikan semakin mendalam, mereka akan terus bertanya pelbagai soalan dan menggunakan soalan ini untuk mengenal pasti kesukaran dan halangan yang dihadapi oleh kecerdasan buatan. Mereka dengan cepat menyedari bahawa isu utama adalah dalam "peringkat terakhir"—menggunakan model dan menerapkannya pada data masa nyata, melaksanakannya dengan cekap supaya faedah mengatasi kos dan dengan itu mengukur prestasinya dengan lebih baik.

Untuk menyelesaikan masalah perniagaan dan membuat keputusan perniagaan, saintis data mengubah data menjadi model. Proses ini disokong oleh dua set kemahiran: kepakaran dan kemahiran yang diperlukan untuk membina model yang hebat, dan kemahiran untuk menggunakan kod untuk memacu model di dunia nyata sambil memantau dan mengemas kininya. Namun, kedua-dua jenis kemahiran ini berbeza sama sekali.

Tepat kerana perbezaan inilah jurutera ML terlibat. Jurutera ML menyepadukan alatan dan rangka kerja untuk memastikan data, saluran paip dan infrastruktur berfungsi bersama untuk menghasilkan model ML pada skala.

Jadi, apa yang perlu dilakukan sekarang? Upah lebih ramai jurutera pembelajaran mesin?

Walaupun dengan jurutera ML terbaik, perusahaan masih menghadapi dua masalah utama apabila menskala AI:

Ketidakupayaan untuk mengupah jurutera ML dengan cepat: Permintaan untuk jurutera ML telah menjadi sangat kuat, kerja pembukaan untuk jurutera ML berkembang 30 kali lebih cepat daripada perkhidmatan IT. Kadangkala menunggu berbulan-bulan atau bahkan bertahun-tahun untuk jawatan diisi, pasukan MLOps perlu mencari cara yang cekap untuk menyokong lebih banyak model ML dan kes penggunaan tanpa meningkatkan bilangan jurutera ML untuk memenuhi permintaan untuk aplikasi ML. Tetapi ini mewujudkan kesesakan kedua...

Terdapat kekurangan amalan terbaik yang boleh diulang dan boleh skala untuk menggunakan model di mana-mana dan cara ia dibina: ekosistem data perusahaan moden Realitinya ialah unit perniagaan yang berbeza menggunakan data yang berbeza platform berdasarkan data dan keperluan teknologi mereka (contohnya, pasukan produk mungkin perlu menyokong data penstriman, manakala kewangan perlu menyediakan antara muka pertanyaan mudah untuk pengguna bukan teknikal). Selain itu, sains data juga memerlukan penyahpusatan aplikasi merentas unit perniagaan dan bukannya memusatkan aplikasi. Dalam erti kata lain, pasukan sains data yang berbeza mempunyai set rangka kerja latihan model yang unik untuk kes penggunaan (domain) yang mereka fokuskan, yang bermaksud bahawa rangka kerja latihan satu saiz untuk semua tidak boleh diwujudkan untuk keseluruhan perusahaan (termasuk berbilang jabatan/domain) daripada.

Cara untuk mendapatkan nilai terbaik daripada kecerdasan buatan

• Untuk meningkatkan keupayaan automasi untuk memberikan pengalaman peribadi pengguna berskala besar untuk menyampaikan pengguna yang lebih tepat, terperinci dan boleh diramalkan; syarikat sudah melabur berbilion dolar ke dalam kecerdasan buatan. Tetapi setakat ini, terdapat jurang yang besar antara janji dan keputusan AI, dengan hanya kira-kira 10% daripada pelaburan AI menjana ROI yang ketara.
• Akhir sekali, untuk menyelesaikan masalah MLOps, ketua pegawai analitik data perlu membina keupayaan mereka sendiri di sekitar sains data sebagai teras perniagaan, sambil turut melabur dalam teknologi lain yang berkaitan dengan automasi MLOps. Ini adalah dilema "bina vs. beli" biasa Ia bukan sahaja dipertimbangkan dari perspektif operasi (faedah kos), tetapi juga perlu mempertimbangkan kelajuan dan kecekapan pelaburan AI yang meresap ke seluruh perusahaan, dan sama ada kaedah baharu boleh digunakan. dijana dengan cara yang lebih baik produk hasil dan asas pelanggan, atau mengurangkan kos dengan meningkatkan automasi dan mengurangkan pembaziran.

Pengenalan penterjemah

Cui Hao, editor komuniti 51CTO dan arkitek kanan, mempunyai 18 tahun pengalaman pembangunan perisian dan seni bina serta 10 tahun pengalaman seni bina yang diedarkan. Dahulu pakar teknikal di HP. Beliau bersedia berkongsi dan telah menulis banyak artikel teknikal popular dengan lebih daripada 600,000 bacaan. Pengarang "Prinsip dan Amalan Seni Bina Teragih".

Tajuk asal: ​​MLOps | Adakah Perusahaan Mengulangi Kesalahan DIY Yang Sama​​​​

Atas ialah kandungan terperinci MLOps: Adakah perniagaan mengulangi kesilapan DIY yang sama?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!