Gen Gen: AI の第一人者が共同で「AI による人類絶滅への警告」を宣言
//チェン・ジェン
最近、AI 安全性センター (CAIS) は、人工知能分野の科学者および企業幹部 350 名が署名した「人工知能リスク声明」を発表しました。声明の主な内容は「人工知能のリスクを軽減することで、人類の絶滅は、伝染病や核戦争などの他の社会規模のリスクと並んで、世界的な優先事項となるべきです。」
この公式声明は、今日世界で最も権威のある人工知能の専門家、核科学者、疫学者、その他の専門家や学者の意見を結集したものであり、人工知能がもたらすリスクは最も整理されたと言えるでしょう。包括的な方法。署名者には、OpenAI CEO サム・アルトマン氏、DeepMind CEO デミス・ハサビス氏、Anthropic CEO ダリオ・アモデイ氏の 3 人の AI 企業幹部が含まれており、AI レイ・ヒントンのゴッドファーザーとして知られるジェフ氏と、AI の「ビッグ 3」の 1 人であるジョシュア・ベンジオ氏も含まれています。 AI であり、チューリング賞受賞者であり、中国科学院オートメーション研究所の人工知能倫理の 2 人の中国人科学者と、ガバナンス研究センター所長の Zeng Yi 氏および Zhan Xianyuan 副研究員も公開書簡に署名しました。清華インテリジェント産業研究所。
人工知能技術の発展が社会科学技術の進歩を促進する役割を果たすことは自明のことです。しかし、人工知能が画期的な進歩を遂げる一方で、人間に対するその悪影響や心理的圧力がますます顕著になってきています。たとえば、宿題やレポートを書くために人工知能を使用する学生が増えており、盗作の定義が難しくなっている一方、犯罪者は脅迫目的で機密データを盗むための新しいハッキング手法を開発するために人工知能を使用しています。
人工知能は人間の働き方にも大きな影響を与えるでしょう。 2030 年までに、7,500 万人から 3 億 7,500 万人が再就職する必要があると推定されています。これは経済に前例のない影響を与えるだけでなく、人々の心理にも前例のない圧力を引き起こすだろう。報告書によると、米国の回答者の 61% が、人工知能が人類の未来を脅かしていると信じています。ジェフリー・ヒントンは、「想像できる最悪のシナリオは何だと思いますか」と尋ねられたとき、「人間が知性の進化における単なる過渡期であることは十分に考えられます。」
人工知能の発展の長所と短所についての合理的な見方
「人工知能は潜在的に私たちよりも賢い」と信じ始める人が増えるにつれ、人工知能テクノロジーの野放しな開発に対する懸念が広がるのも無理からぬことです。 ChatGPTに代表される最先端の人工知能の多くは、今でも学習データのパターンに基づいて複製学習を行っていますが、その学習能力や成長速度は「飛躍的に進歩している」とまでは言い切れないほどです。その急速な発展。
AI チャットボットが誤った情報を広め、人間の仕事を置き換える可能性について警告する議員、擁護団体、テクノロジー業界関係者が増えています。 AI安全センター所長のダン・ヘンドリックス氏は、アルゴリズムのバイアスや誤解を招く情報など、他の種類のAIリスクの解決にも社会全体が協力する必要があるとさえ指摘した。もちろん、このリスク管理プロセスにおいて、差し迫った危険だけに焦点を当てるのは無謀であり、それらを無視するのも同様に無謀です。なぜなら、他の新しいものと同様、人工知能の急速な普及にはチャンスとリスクがあるからです。人々はその利点を活用する一方で、起こり得るリスクにも注意しなければなりません。上手に活用してリスクを防いでいれば、「私のために使って」も大丈夫です。
以上がGen Gen: AI の第一人者が共同で「AI による人類絶滅への警告」を宣言の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











バイブコーディングは、無限のコード行の代わりに自然言語を使用してアプリケーションを作成できるようにすることにより、ソフトウェア開発の世界を再構築しています。 Andrej Karpathyのような先見の明に触発されて、この革新的なアプローチは開発を許可します

アプリ開発の革新:レプリットエージェントに深く潜ります 複雑な開発環境と不明瞭な構成ファイルとの格闘にうんざりしていませんか? Replit Agentは、アイデアを機能的なアプリに変換するプロセスを簡素化することを目的としています。 このai-p

2025年2月は、生成AIにとってさらにゲームを変える月であり、最も期待されるモデルのアップグレードと画期的な新機能のいくつかをもたらしました。 Xai’s Grok 3とAnthropic's Claude 3.7 SonnetからOpenaiのGまで

Yolo(あなたは一度だけ見ています)は、前のバージョンで各反復が改善され、主要なリアルタイムオブジェクト検出フレームワークでした。最新バージョンYolo V12は、精度を大幅に向上させる進歩を紹介します

Dall-E 3:生成AI画像作成ツール 生成AIはコンテンツの作成に革命をもたらし、Openaiの最新の画像生成モデルであるDall-E 3が最前線にあります。 2023年10月にリリースされ、前任者のDall-EとDall-E 2に基づいています

Openai、Softbank、Oracle、Nvidiaなどのハイテク大手に支援され、米国政府が支援する5,000億ドルのStargate AIプロジェクトは、アメリカのAIリーダーシップを固めることを目指しています。 この野心的な仕事は、AIの進歩によって形作られた未来を約束します

Grok 3 - Elon MuskとXaiの最新のAIモデルは、最近の町の話です。 Andrej KarpathyからTech Influencersまで、誰もがこの新しいモデルの能力について話しています。最初は、アクセスが制限されていました

Google Deepmind's Gencast:天気予報のための革新的なAI 天気予報は、初歩的な観察から洗練されたAI駆動の予測に移行する劇的な変化を受けました。 Google DeepmindのGencast、グラウンドブレイク
