人工知能に対しては、人間は本当に畏敬の念を抱く必要があります。 ChatGPT の父からの警告は耳を傾ける価値があります

「人工知能が人類を絶滅させるリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきです。」

冷水が注がれたバケツのように、人工知能分野のトップ専門家、「AI ゴッドファーザー」の人物、Open AI CEO のサム・アルトマン氏やディープマインド CEO のデミス・ハサビス氏などの業界の大物たち、そして数百人の実務家が含まれています。 -公開書簡に署名した。

書簡の中で、彼らは政府と国民に対して人工知能について十分な注意を払うよう呼び掛け、AI技術の急速な進歩により人類の存続を脅かす可能性があることを懸念していると述べた。

これはマスク氏の警告と訴えを彷彿とさせますが、マスク氏は大規模な人工知能の開発と実験を中止することを望んでいます。 .”とリソースの計画と管理。”

前後の2つの重大な警告は、人々に人工知能時代の到来にどう立ち向かうべきかを真剣に考えさせるものである。

AI に関しては、実は誰もが同じスタートラインにいるのです

Open AI によって開始された ChatGPT は世界を席巻し、人工知能に対する人々の熱意を先導しましたが、業界は AI が実際に「iPhone の瞬間」に入ったと信じてきました。

つまり、スティーブ・ジョブズが iPhone を発売し、モバイル インターネットの時代を正式に開いたのと同じように、人類は人工知能の時代に突入しようとしています (またはすでに突入している)。

しかし、モバイルインターネットの時代と違うのは、誰がリーダーなのか未だに言いにくいことであり、アメリカでも中国でもヨーロッパでも、誰も自分がスティーブ・ジョブズであるとは敢えて言わないのです。ある人はiPhoneを発売しました。画期的な製品です。

この激動の時代において、OpenAI は半歩先を行っているものの、「王者の先駆者」に過ぎないのかもしれません。まだ強固な壁や堀を築いている企業はなく、各界のプレーヤーが比較的同じ立場にあります。開始線。

おそらく、「運命の人」が誰であるかを理解するのに数年はかからないでしょう。

ChatGPT の父からの警告は耳を傾ける価値があります

Open AI の CEO であるサム アルトマンは、商業的利益を超えた感情を抱いており、人工知能のリスクを何度も強調してきました。

ChatGPT などの人工知能モデルの急速な発展は、社会や雇用に潜在的な脅威をもたらす可能性があります。人工知能が制御不能になった場合、パンデミックや核戦争と同様に、大規模な人類の死、さらには種の喪失を引き起こす可能性があります。 . 絶滅の危機。

そこで、サム・アルトマンは多くの人々に加わり、政府に監督を強化するよう求めました。しかし問題は、政府機関は新しいものや新しい技術の監督が遅れていることが多いということです。彼らは監督の方法を知りません。多くの役人でさえ監督の仕方を知りません。 AI が何を意味するのか分かりません。

人間の認知は、継続的な改善のプロセスです。ほとんどの人は、それを目にしているので、それを信じています。しかし、AI が本当に人類の存続を脅かすのであれば、手遅れになる可能性があるという逆説があります。

仮説を立ててもいいでしょう。原子力技術に適切な監督と審査の方法がなかったら、人間社会はどうなるでしょうか?ある意味、AI技術は核技術よりも破壊力があるのか​​もしれない。

人工知能の長所と短所

生産性向上の観点から見ると、人工知能の効果は非常に大きく、重労働や多くの低価値の頭脳労働から人々を大幅に解放します。

掃除ロボット、調理ロボット、産業ロボット、採掘ロボット、医療ロボットはすべて、人々の生活を大幅に促進します。 AIは、データ分析、画像認識、精度、効率性の点で大きな可能性を秘めています。

しかし、AIの普及により、多くの反復労働の仕事が置き換えられ、多くの人が失業し、人工知能によるプライバシーの侵害が懸念されています。また、ニュース、戦争、安全保障、法律、アルゴリズム差別と倫理的および道徳的課題（貧富の差など）。

キッシンジャーは、人類はまだ準備ができておらず、人類はこの新しい種であるAIとの関係を再定義する必要があると述べた。この意見は確かに、あらゆる階層の人々の注目と考慮に値します。

しかし、全体としては AI は人間にとって有害で​​あるよりも有益であるという大きなコンセンサスがあり、AI 技術がゆりかごの中で首を絞められているとは誰も言えません。いずれにしても発展するので、鍵は開発です。 . 制御と制御の矛盾は、利点を実現し、欠点を解消することができます。

人工知能に対して、人間は本当に畏敬の念を抱く必要があります

インターネット時代において、インターネットにはあらゆる種類の虚偽、否定的、有害な情報が溢れており、情報を判断し区別する人々の能力に大きな課題をもたらしています。

人工知能の時代、真と偽の区別は困難です。AI が人を騙そうと思えば、間違いなく簡単になります。実際、詐欺師が AI 技術を利用して人を騙す事例がすでに発生しています。携帯電話で親戚や友人と対面しても、その人が本物なのか、それとも本物のふりをした嘘つきなのかはわかりません。

また、AI の強力なデジタル思考 (AI 風のランダム捏造など、ますます強力になっています) と比較して、人間の思考の価値や利点は何でしょうか?もっと真剣に考えれば、AI を前にして、人類の文明に光が差し込む余地はどれだけ残っているのでしょうか?

しかし、AI 競争が始まりました。AI のリスクについて、立ち止まって慎重に考えようとする人は多くないようです。誰もがより速く走りたいと考えています。いわゆる安全性の問題については、誰が気にするでしょうか?

人間がもたらした要因により、未来は不確実性に満ちています。人工知能が人類をどこへ押し上げるかは、私たちの現在の取り組みに大きくかかっています。

以上が人工知能に対しては、人間は本当に畏敬の念を抱く必要があります。 ChatGPT の父からの警告は耳を傾ける価値がありますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。