AS AI Dasar berputar dengan tajam dari 'Keselamatan' ke 'Keselamatan'

Presiden Donald Trump membatalkan Perintah Eksekutif AI Joe Biden pada hari satu penggalnya ( pendedahan : Saya berkhidmat sebagai kaunselor kanan untuk AI di Jabatan Keselamatan Dalam Negeri semasa Pentadbiran Biden), dan Naib Presiden JD Vance membuka Paris AI. peluang. " Vance terus mengatakan bahawa AS akan "melindungi AI Amerika" dan menghentikan musuh daripada mencapai keupayaan AI yang "mengancam semua rakyat kita."

Tanpa lebih banyak konteks, bunyi ini seperti kata kunci yang tidak bermakna - apakah perbezaan antara keselamatan AI dan keselamatan AI, dan apakah yang dimaksudkan dengan perubahan ini bagi pengguna dan perniagaan yang terus mengadopsi AI?

Ringkasnya, keselamatan AI terutamanya tertumpu pada membangunkan AI dengan cara yang bertindak secara etika dan boleh dipercayai, terutamanya apabila ia digunakan dalam konteks yang tinggi, seperti pengambilan atau penjagaan kesihatan. Untuk membantu mencegah sistem AI daripada menyebabkan kemudaratan, undang -undang keselamatan AI biasanya termasuk penilaian risiko, protokol ujian dan keperluan untuk pengawasan manusia.

Sebaliknya, keselamatan AI tidak membetulkan untuk membangunkan AI etika dan selamat. Sebaliknya, ia mengandaikan bahawa musuh -musuh Amerika pasti akan menggunakan AI dengan cara yang berniat jahat dan bertujuan untuk mempertahankan aset AS dari ancaman yang disengajakan, seperti AI yang dieksploitasi oleh negara -negara saingan untuk mensasarkan infrastruktur kritikal AS. Ini bukan risiko hipotetikal - agensi perisikan AS terus menjejaki operasi siber yang menyinggung perasaan di China, Rusia dan Korea Utara. Untuk mengatasi jenis serangan yang disengajakan ini, organisasi memerlukan asas amalan keselamatan siber yang kuat yang juga menyumbang ancaman yang disampaikan oleh AI.

Kedua -dua bidang ini penting dan saling berkaitan - jadi mengapa ia kelihatan seperti seseorang telah melepaskan yang lain dalam beberapa bulan kebelakangan ini? Saya akan meneka bahawa mengutamakan keselamatan AI secara semulajadi lebih sejajar dengan iklim dasar luar negara hari ini , di mana pandangan dunia paling dalam gaya adalah gambaran realis persaingan kejam di kalangan negara -negara untuk kelebihan geopolitik dan ekonomi. Mengutamakan keselamatan AI bertujuan untuk melindungi Amerika dari musuh -musuhnya sambil mengekalkan dominasi global Amerika di AI. Keselamatan AI, sebaliknya, boleh menjadi tongkat kilat untuk perdebatan politik mengenai kebebasan bersuara dan kecenderungan yang tidak adil. Persoalan sama ada sistem AI yang diberikan akan menyebabkan kemudaratan sebenar juga bergantung kepada konteks, kerana sistem yang sama digunakan dalam persekitaran yang berbeza dapat menghasilkan hasil yang sangat berbeza.

Dalam menghadapi ketidakpastian yang begitu banyak, digabungkan dengan perselisihan politik tentang apa yang benar -benar menjadi bahaya kepada orang ramai, penggubal undang -undang telah berjuang untuk membenarkan undang -undang keselamatan lulus yang dapat menghalang kelebihan daya saing Amerika. Berita DeepSeek , sebuah syarikat AI Cina, mencapai prestasi kompetitif dengan model AI AS dengan kos yang jauh lebih rendah, hanya mengesahkan langkah ini, menimbulkan ketakutan yang meluas mengenai jurang yang semakin berkurangan antara keupayaan AI AS dan China.

Apa yang berlaku sekarang, apabila hantu undang -undang keselamatan persekutuan tidak lagi menjulang di kaki langit? Komen awam dari OpenAI , Anthropic dan lain -lain mengenai "Pelan Tindakan AI" yang akan datang oleh pentadbiran Trump memberikan gambaran yang menarik tentang bagaimana keutamaan AI telah beralih. Untuk satu, "keselamatan" tidak muncul dalam penyerahan dari industri, dan di mana isu-isu keselamatan disebutkan, mereka diserahkan sebagai risiko keselamatan negara yang boleh merugikan AS dalam perlumbaannya untuk bersaing di China. Secara umum, penyerahan ini meletakkan satu siri dasar yang mesra inovasi, dari peraturan hak cipta yang seimbang untuk latihan AI untuk mengeksport kawalan ke atas semikonduktor dan komponen AI yang berharga (contohnya berat model).

Di luar cuba untuk memenuhi semangat pemesejan awal pentadbiran Trump terhadap AI , penyerahan ini juga kelihatan seperti yang ditunjukkan oleh syarikat -syarikat yang percaya peranan kerajaan AS haruslah ketika datang ke AI: infrastruktur pembiayaan yang kritikal untuk melanjutkan pembangunan AI, melindungi IP Amerika, dan mengawal AI hanya setakat yang mengancam keamanan negara kita. Kepada saya, ini kurang daripada peralihan strategi di bahagian syarikat AI daripada peralihan komunikasi. Jika apa-apa, komen-komen ini dari industri kelihatan lebih misi-sejajar daripada panggilan mereka yang terdahulu untuk undang-undang data yang kuat dan komprehensif.

Walaupun begitu, tidak semua orang dalam industri menyokong pendekatan yang tidak ditahan kepada kami dominasi AI. Dalam makalah mereka, " Strategi Superintelligence ," tiga suara AI terkemuka, Eric Schmidt, Dan Hendrycks dan Alexandr Wang, menasihati berhati-hati ketika mengejar gaya Projek Manhattan untuk membangunkan Superintelligent AI. Penulis sebaliknya mencadangkan "sama-sama memberi jaminan AI," atau Maim, satu strategi pertahanan yang mengingatkan pencegahan era Perang Dingin yang akan memaksa apa-apa usaha yang dipimpin oleh negara untuk mencapai monopoli AI.

Sekiranya Amerika Syarikat meneruskan strategi ini, ia perlu melumpuhkan projek AI yang mengancam, menyekat akses kepada cip AI lanjutan dan model berat terbuka dan mengukuhkan pembuatan cip domestik. Melakukannya, menurut penulis, akan membolehkan Amerika Syarikat dan negara -negara lain untuk memajukan inovasi AI secara aman sambil menurunkan risiko keseluruhan pelaku penyangak menggunakan AI untuk mewujudkan kerosakan yang meluas.

Ia akan menjadi menarik untuk melihat sama ada cadangan -cadangan ini mendapat daya tarikan pada bulan -bulan akan datang apabila pentadbiran Trump membentuk kedudukan yang lebih terperinci mengenai AI. Kita harus mengharapkan untuk melihat lebih banyak cadangan sedemikian-khususnya, mereka yang terus memberi tumpuan kepada risiko geopolitik dan peluang AI, hanya mencadangkan undang-undang setakat yang membantu mencegah bencana besar-besaran, seperti penciptaan senjata biologi atau serangan asing terhadap aset AS.

Malangnya, isu keselamatan tidak hilang apabila anda berhenti memberi perhatian kepada mereka atau menamakan semula institut keselamatan . Walaupun mengukuhkan postur keselamatan kami dapat membantu meningkatkan daya saing kami dan menentang serangan asing, itu adalah campur tangan keselamatan yang membantu mencegah kemudaratan kepada individu atau masyarakat secara berskala.

Realitinya ialah kerja keselamatan dan keselamatan AI secara langsung-intervensi keselamatan AI tidak berfungsi jika sistem itu sendiri boleh digodam; Dengan tanda yang sama, mengamankan sistem AI terhadap ancaman luaran menjadi tidak bermakna jika sistem tersebut tidak selamat dan terdedah kepada kemudaratan. Cambridge Analytica menawarkan ilustrasi berguna mengenai hubungan ini; Kejadian itu mendedahkan bahawa protokol keselamatan Facebook yang tidak mencukupi di sekitar akses data berkhidmat untuk memburukkan kelemahan keselamatan yang kemudiannya dieksploitasi untuk manipulasi politik. Sistem AI hari ini menghadapi cabaran yang saling berkaitan. Apabila penjaga keselamatan dibongkar, risiko keselamatan tidak dapat dielakkan.

Buat masa ini, keselamatan AI berada di tangan badan perundangan negeri dan pasukan amanah dan keselamatan korporat. Syarikat -syarikat yang membina AI tahu - mungkin lebih baik daripada orang lain - apa yang ditimbulkan. Satu pelanggaran amanah, sama ada pencurian data atau kemalangan, boleh merosakkan jenama mereka. Saya meramalkan bahawa mereka akan terus melabur dalam amalan keselamatan AI yang masuk akal, tetapi dengan bijak dan tanpa penggemar. Inisiatif yang baru muncul seperti Roost , yang membolehkan syarikat -syarikat untuk membina alat keselamatan terbuka secara kolaboratif, mungkin menjadi pratonton yang baik tentang apa yang akan datang: pergerakan keselamatan AI yang berkembang secara senyap -senyap, disokong oleh pakar, makmal dan institusi yang telah mempelopori bidang ini sejak sedekad yang lalu.

Mudah -mudahan, itu akan mencukupi.

Atas ialah kandungan terperinci AS AI Dasar berputar dengan tajam dari 'Keselamatan' ke 'Keselamatan'. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!