Penyelidik Menimbulkan Kebimbangan Mengenai Bias Ideologi dalam Model Bahasa Besar (LLM)

Model ini, digunakan secara meluas untuk tugasan seperti ringkasan dan menjawab soalan, mencerminkan pandangan dunia pencipta mereka. Kajian baharu dari Universiti Ghent menunjukkan cara LLM mempunyai pendirian ideologi yang berbeza berdasarkan bahasa, wilayah dan data latihan.

Model bahasa besar (LLM) ialah alat berkuasa yang boleh digunakan untuk pelbagai jenis tugas, daripada meringkaskan teks kepada menjawab soalan. Walau bagaimanapun, kajian terbaru dari Universiti Ghent telah menunjukkan bahawa LLM juga boleh berat sebelah, mencerminkan pandangan dunia ideologi pencipta mereka.

Kajian ini mengkaji perbezaan ideologi dalam respons LLM dalam bahasa Inggeris dan Cina. Para penyelidik meminta model untuk menerangkan tokoh sejarah, dan kemudian menganalisis pertimbangan moral dalam setiap respons. Mereka mendapati bahawa LLM bertindak balas secara berbeza berdasarkan latihan bahasa dan geografi. Ini terbukti dengan cara LLM Barat dan bukan Barat mengendalikan penerangan tentang konflik global dan tokoh politik.

Paolo Ardoino, Ketua Pegawai Eksekutif Tether, membangkitkan kebimbangan mengenai isu ini dalam siaran baru-baru ini. Dia menekankan kepentingan kawalan pengguna ke atas model AI, dan menyatakan kewaspadaan tentang pengaruh syarikat teknologi besar, yang katanya boleh digunakan untuk membentuk pemikiran orang ramai.

Pada acara Lugano Plan B, Ardoinoを紹介ed kit pembangunan AI Tempatan Tether sebagai penyelesaian. Kit memfokuskan privasi menggunakan teknologi peer-to-peer (P2P) untuk menawarkan alternatif kepada model AI dikawal teknologi besar.

Kami perlu mengawal model yang kami laksanakan dan harapkan.

Dan jangan biarkan penguasa teknologi besar memaksa dan mengawal pemikiran kita.

Penyelesaian https://t.co/1MyRIUXwit

SDK AI Tether sangat modular dan boleh disesuaikan, membolehkan pembangun menggunakannya merentas pelbagai peranti, daripada telefon bajet hingga komputer canggih. Kit sumber terbuka menyokong model yang berbeza, seperti Marian dan LLaMA, dan membolehkan pengguna menyimpan data dalam struktur P2P untuk privasi yang dipertingkatkan. Pendekatan terdesentralisasi ini menyediakan kaedah tempatan dan peribadi untuk melaksanakan aplikasi AI.

Kajian Universiti Ghent juga menemui perbezaan dalam cara LLM menangani peristiwa sejarah dan politik. Model Barat cenderung untuk menyelaraskan dengan ideologi Barat dalam huraian mereka, manakala model bukan Barat mendekati topik ini secara berbeza, menonjolkan jurang dalam perspektif naratif. Penemuan ini menggariskan cabaran dalam membina sistem AI "neutral".

Inisiatif Ardoino untuk platform AI terdesentralisasi sejajar dengan trend yang lebih luas dalam industri teknologi ke arah privasi yang lebih besar. Memandangkan kit AI Setempat Tether sedang diuji, ia mempamerkan saluran baru untuk AI modular yang dikawal oleh pengguna. Pendekatan ini berpotensi menangani kebimbangan privasi dan mengurangkan pergantungan pada teknologi besar untuk keperluan AI.

Artikel ini bersifat pendidikan dan bermaklumat. Ia tidak membentuk sebarang jenis nasihat kewangan atau nasihat. Edisi Syiling tidak bertanggungjawab untuk sebarang kerugian yang ditanggung akibat penggunaan kandungan, produk atau perkhidmatan yang disebutkan. Sila berunding dengan profesional berlesen sebelum membuat sebarang keputusan kewangan atau keputusan lain.

Atas ialah kandungan terperinci Penyelidik Menimbulkan Kebimbangan Mengenai Bias Ideologi dalam Model Bahasa Besar (LLM). Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!