Eksekutif syarikat bimbang tentang perkongsian data syarikat secara tidak sengaja dengan ChatGPT

Laporan "State of Generative Artificial Intelligence in the Enterprise" mendapati ChatGPT ialah chatbot paling popular dalam perusahaan, diikuti oleh CopyAI (35%) dan Anyword (26%), Diperingkat kedua dan ketiga masing-masing. Walau bagaimanapun, banyak syarikat telah mengharamkan penggunaan alat AI generatif di tempat kerja, dengan ChatGPT menjadi yang paling kerap diharamkan (32%), diikuti oleh CopyAI (28%) dan Jasper (23%).

Waseem Alshikh, pengasas bersama dan CTO Penulis, berkata, "Terdapat banyak gembar-gembur tentang AI generatif hari ini, kami ingin memahami apa yang sebenarnya berlaku - siapa yang menggunakannya, alat apa yang mereka gunakan , Apakah yang mereka lakukan dengannya, dan apakah batasan dan kekangan dalam perusahaan? Hampir setiap industri cuba menerapkan AI generatif, dan ia bukan hanya terhad kepada satu fungsi dalam perusahaan . Generatif AI digunakan secara meluas dalam IT, operasi, pemasaran, sumber manusia, undang-undang, L&D, dll. digunakan secara meluas Aplikasi AI yang paling biasa ialah menghasilkan teks ringkas untuk iklan dan tajuk berita (31%), menggunakan semula kandungan sedia ada untuk pelbagai media dan saluran (27%), dan mencipta pelbagai kandungan seperti blog dan artikel asas pengetahuan. (25 %).

Alshikh berkata, “Kecerdasan buatan menjimatkan pemasar, pereka UX, editor, profesional perkhidmatan pelanggan, dsb. banyak masa dalam menjana kandungan baharu dari awal Walau bagaimanapun, nilai sebenar bukan sahaja datang daripada kandungan The bahagian yang menyeronokkan dalam proses pembangunan datang daripada bahagian yang membosankan: perkara seperti menggunakan semula, menganalisis, menyelidik, mengubah dan juga mengedarkan kandungan yang boleh menghalang anda apabila anda sibuk dan perlu bergerak dengan pantas perkara secara automatik. ”

Menggunakan AI generatif di tempat kerja: satu rahmat atau kutukan?

Tinjauan itu menghasilkan penemuan penting, salah satu penemuan utama ialah hampir Semua perniagaan menggunakan AI generatif dalam pelbagai fungsi, termasuk teknologi maklumat (30%), operasi (23%), kejayaan pelanggan (20%), pemasaran (18%), sokongan (16%), jualan (15%) %) dan sumber manusia (15 %) adalah kedua-dua bidang pelaksanaan yang paling biasa.

Menurut laporan itu, 59% daripada responden tinjauan mengatakan bahawa syarikat mereka telah membeli atau merancang untuk membeli alat kecerdasan buatan generatif. Menurut tinjauan itu, kira-kira 19% responden berkata syarikat mereka menggunakan lima atau lebih alat AI generatif. Selain itu, 56% responden mengatakan AI generatif meningkatkan produktiviti sekurang-kurangnya 50%, dan 26% mengatakan ia meningkatkan produktiviti sebanyak 75% atau lebih.

Menurut Alshikh, industri yang paling meluas menggunakan teknologi AI generatif ialah pembinaan dan IT, menyumbang 16%. Insurans kewangan, perkhidmatan teknologi dan pembuatan masing-masing menyumbang 8%, 8% dan 5%, diikuti rapat di belakang. Khususnya di Writer, kami melihat banyak kes penggunaan dalam kewangan dan insurans. ”

ChatGPT dianggap berharga kepada orang awam kerana ia percuma, mudah dikendalikan dan sangat serba boleh. Ia diakui bahawa alat ini mempunyai banyak batasan, termasuk set data yang terhad, ketepatan yang tidak mencukupi dan mudah terdedah kepada. halusinasi dan kesan berat sebelah, serta isu privasi data

Alshikh menambah: "ChatGPT juga menyedari bahawa ketepatannya adalah terhad. ". Selain mempunyai keupayaan untuk mencipta cerita kreatif dan soneta, perniagaan juga mesti memastikan mereka melindungi jenama dan reputasi mereka. Malangnya, ChatGPT dan alat lain yang serupa membawa kepada peningkatan maklumat salah yang mesti dipercayai untuk ketepatan dan konsistensi Jenama merupakan isu kritikal bagi perusahaan ketepatan, keselamatan, privasi dan pematuhan dalam semua fasa kerja orang. Ciri-ciri ini termasuk model bahasa besar (LLM) yang dihoskan sendiri, membenarkan pengguna mengehos, mengendalikan dan menyesuaikan LLM di premis atau di awan.

Selain itu, syarikat itu telah memperkenalkan Graf Pengetahuan pada platform Penulis, membolehkan pelanggan mengindeks dan mengakses mana-mana sumber data (daripada Slack ke wiki ke pangkalan pengetahuan kepada kejadian penyimpanan awan).

Penulis Ketua Pegawai Eksekutif dan pengasas bersama May Habib berkata dalam satu kenyataan bertulis: "Kami menyediakan perusahaan dengan kawalan penuh - daripada data yang boleh diakses oleh LLM, ke tempat LLM dihoskan. Jika anda tidak mempunyai kawalan , Tiada cara untuk mengawal kualiti, kesan buruk atau risiko keselamatan output berdasarkan AI generatif. Model perniagaan sering mengumpulkan kecerdasan daripada pelbagai sumber awam, yang mungkin bagus untuk kreativiti tetapi tidak baik untuk konsistensi jenama.

Beliau seterusnya menegaskan bahawa pemimpin perniagaan telah menyedari bahawa kelebihan daya saing boleh diperoleh dengan melaksanakan kecerdasan buatan generatif dalam perusahaan. Walau bagaimanapun, mereka juga mengiktiraf risiko menggunakan chatbot percuma seperti ChatGPT, termasuk kemungkinan menjana kandungan yang tidak tepat dan mendedahkan data sulit.

Beliau menghuraikan bahawa matlamat Penulis kami adalah untuk membawa impak sebenar kepada perusahaan melalui kesan sebenar, bukannya hanya kekal dalam senario aplikasi baru. Kami telah menyelesaikan isu yang berkaitan dengan ketepatan dan privasi, dan teknologi kami sedang digunakan dalam industri yang sangat dikawal, termasuk teknologi, penjagaan kesihatan dan perkhidmatan kewangan untuk pelanggan seperti Intuit dan UnitedHealthcare. ”

Memandangkan kepopularan ChatGPT, beliau mengesyorkan agar syarikat mempertimbangkan sama ada ChatGPT atau mana-mana alat berasaskan OpenAI mematuhi privasi data, penjenamaan dan dasar kawal selia mereka Selain itu, beliau mengesyorkan syarikat mengumpul kes dan keperluan penggunaan berfungsi untuk menilai Alternatif

Alshikh mencadangkan, “Jika perusahaan sudah mempunyai dasar untuk penggunaan ChatGPT, mereka harus mempertimbangkan untuk melaksanakan program komunikasi dan latihan yang berterusan supaya semua orang tahu alat yang selamat, dan Cara menggunakan mereka tanpa membocorkan data syarikat yang sensitif. Pada masa yang sama, eksekutif perniagaan perlu bertanya kepada diri mereka sendiri beberapa soalan penting, seperti: Adakah ia melindungi data syarikat kita Adakah ia membenarkan kita menyesuaikan keluaran kepada jenama, gaya, mesej dan konteks syarikat kita? ke dalam aliran kerja perniagaan kami?”

Atas ialah kandungan terperinci Eksekutif syarikat bimbang tentang perkongsian data syarikat secara tidak sengaja dengan ChatGPT. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!