ホームページ テクノロジー周辺機器 AI Gen Gen: AI の第一人者が共同で「AI による人類絶滅への警告」を宣言

Gen Gen: AI の第一人者が共同で「AI による人類絶滅への警告」を宣言

Jun 03, 2023 pm 06:41 PM
警告 ビッグネーム 共同声明

//チェン・ジェン

最近、AI 安全性センター (CAIS) は、人工知能分野の科学者および企業幹部 350 名が署名した「人工知能リスク声明」を発表しました。声明の主な内容は「人工知能のリスクを軽減することで、人類の絶滅は、伝染病や核戦争などの他の社会規模のリスクと並んで、世界的な優先事項となるべきです。」

この公式声明は、今日世界で最も権威のある人工知能の専門家、核科学者、疫学者、その他の専門家や学者の意見を結集したものであり、人工知能がもたらすリスクは最も整理されたと言えるでしょう。包括的な方法。署名者には、OpenAI CEO サム・アルトマン氏、DeepMind CEO デミス・ハサビス氏、Anthropic CEO ダリオ・アモデイ氏の 3 人の AI 企業幹部が含まれており、AI レイ・ヒントンのゴッドファーザーとして知られるジェフ氏と、AI の「ビッグ 3」の 1 人であるジョシュア・ベンジオ氏も含まれています。 AI であり、チューリング賞受賞者であり、中国科学院オートメーション研究所の人工知能倫理の 2 人の中国人科学者と、ガバナンス研究センター所長の Zeng Yi 氏および Zhan Xianyuan 副研究員も公開書簡に署名しました。清華インテリジェント産業研究所。

Gen Gen: AI の第一人者が共同で「AI による人類絶滅への警告」を宣言

人工知能脅威理論

人工知能技術の発展が社会科学技術の進歩を促進する役割を果たすことは自明のことです。しかし、人工知能が画期的な進歩を遂げる一方で、人間に対するその悪影響や心理的圧力がますます顕著になってきています。たとえば、宿題やレポートを書くために人工知能を使用する学生が増えており、盗作の定義が難しくなっている一方、犯罪者は脅迫目的で機密データを盗むための新しいハッキング手法を開発するために人工知能を使用しています。

人工知能は人間の働き方にも大きな影響を与えるでしょう。 2030 年までに、7,500 万人から 3 億 7,500 万人が再就職する必要があると推定されています。これは経済に前例のない影響を与えるだけでなく、人々の心理にも前例のない圧力を引き起こすだろう。報告書によると、米国の回答者の 61% が、人工知能が人類の未来を脅かしていると信じています。ジェフリー・ヒントンは、「想像できる最悪のシナリオは何だと思いますか」と尋ねられたとき、「人間が知性の進化における単なる過渡期であることは十分に考えられます。」

人工知能の発展の長所と短所についての合理的な見方

「人工知能は潜在的に私たちよりも賢い」と信じ始める人が増えるにつれ、人工知能テクノロジーの野放しな開発に対する懸念が広がるのも無理からぬことです。 ChatGPTに代表される最先端の人工知能の多くは、今でも学習データのパターンに基づいて複製学習を行っていますが、その学習能力や成長速度は「飛躍的に進歩している」とまでは言い切れないほどです。その急速な発展。

AI チャットボットが誤った情報を広め、人間の仕事を置き換える可能性について警告する議員、擁護団体、テクノロジー業界関係者が増えています。 AI安全センター所長のダン・ヘンドリックス氏は、アルゴリズムのバイアスや誤解を招く情報など、他の種類のAIリスクの解決にも社会全体が協力する必要があるとさえ指摘した。もちろん、このリスク管理プロセスにおいて、差し迫った危険だけに焦点を当てるのは無謀であり、それらを無視するのも同様に無謀です。なぜなら、他の新しいものと同様、人工知能の急速な普及にはチャンスとリスクがあるからです。人々はその利点を活用する一方で、起こり得るリスクにも注意しなければなりません。上手に活用してリスクを防いでいれば、「私のために使って」も大丈夫です。

以上がGen Gen: AI の第一人者が共同で「AI による人類絶滅への警告」を宣言の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

カーソルAIでバイブコーディングを試してみましたが、驚くべきことです! カーソルAIでバイブコーディングを試してみましたが、驚くべきことです! Mar 20, 2025 pm 03:34 PM

バイブコーディングは、無限のコード行の代わりに自然言語を使用してアプリケーションを作成できるようにすることにより、ソフトウェア開発の世界を再構築しています。 Andrej Karpathyのような先見の明に触発されて、この革新的なアプローチは開発を許可します

レプリットエージェント:実用的な例を備えたガイド レプリットエージェント:実用的な例を備えたガイド Mar 04, 2025 am 10:52 AM

アプリ開発の革新:レプリットエージェントに深く潜ります 複雑な開発環境と不明瞭な構成ファイルとの格闘にうんざりしていませんか? Replit Agentは、アイデアを機能的なアプリに変換するプロセスを簡素化することを目的としています。 このai-p

2025年2月のトップ5 Genai発売:GPT-4.5、Grok-3など! 2025年2月のトップ5 Genai発売:GPT-4.5、Grok-3など! Mar 22, 2025 am 10:58 AM

2025年2月は、生成AIにとってさらにゲームを変える月であり、最も期待されるモデルのアップグレードと画期的な新機能のいくつかをもたらしました。 Xai’s Grok 3とAnthropic's Claude 3.7 SonnetからOpenaiのGまで

オブジェクト検出にYolo V12を使用する方法は? オブジェクト検出にYolo V12を使用する方法は? Mar 22, 2025 am 11:07 AM

Yolo(あなたは一度だけ見ています)は、前のバージョンで各反復が改善され、主要なリアルタイムオブジェクト検出フレームワークでした。最新バージョンYolo V12は、精度を大幅に向上させる進歩を紹介します

Dall-E 3の使用方法:ヒント、例、および機能 Dall-E 3の使用方法:ヒント、例、および機能 Mar 09, 2025 pm 01:00 PM

Dall-E 3:生成AI画像作成ツール 生成AIはコンテンツの作成に革命をもたらし、Openaiの最新の画像生成モデルであるDall-E 3が最前線にあります。 2023年10月にリリースされ、前任者のDall-EとDall-E 2に基づいています

Elon Musk&Sam Altmanは、5,000億ドルを超えるスターゲートプロジェクトを超えて衝突します Elon Musk&Sam Altmanは、5,000億ドルを超えるスターゲートプロジェクトを超えて衝突します Mar 08, 2025 am 11:15 AM

Openai、Softbank、Oracle、Nvidiaなどのハイテク大手に支援され、米国政府が支援する5,000億ドルのStargate AIプロジェクトは、アメリカのAIリーダーシップを固めることを目指しています。 この野心的な仕事は、AIの進歩によって形作られた未来を約束します

あなたの仕事を簡単にすることができる5 Grok 3プロンプト あなたの仕事を簡単にすることができる5 Grok 3プロンプト Mar 04, 2025 am 10:54 AM

Grok 3 - Elon MuskとXaiの最新のAIモデルは、最近の町の話です。 Andrej KarpathyからTech Influencersまで、誰もがこの新しいモデルの能力について話しています。最初は、アクセスが制限されていました

Google' s Gencast:Gencast Mini Demoを使用した天気予報 Google' s Gencast:Gencast Mini Demoを使用した天気予報 Mar 16, 2025 pm 01:46 PM

Google Deepmind's Gencast:天気予報のための革新的なAI 天気予報は、初歩的な観察から洗練されたAI駆動の予測に移行する劇的な変化を受けました。 Google DeepmindのGencast、グラウンドブレイク

See all articles