GoogleのAIには個性があるのか​​？この「クレイジーな」MIT教授はAlexaにもそれがあると言う

「私は AI に恋をしました。」

Google エンジニアの Blake Lemoine は、一夜にしてみんなの目に狂人となりました。

ゲイリー・マーカスであれ、スタンフォード大学の経済学者であれ、さまざまな専門家であれ、これを否定しています。

信じられないかもしれませんが、マサチューセッツ工科大学の物理学教授マックス・テグマーク氏は、ルモイン氏の意見に前向きです。

彼はルモワンヌが狂人だとは思っていませんでした。彼は、Amazon の音声アシスタント Alexa にも感情があるとさえ考えています...

Max Tegmark

LaMDA には人格があるのでしょうか? MIT教授はAlexaにも

があると述べ、Tegmark氏は「LaMDAが主観的な感情を持っていることを示す十分な証拠はないが、それを証明する証拠も持っていない」と述べた。

この議論は、初期の頃人々がエイリアンについて話していた方法と少し似ています。

彼はさらにこう続けました、「情報が脳の炭素原子を介して伝達されるか、機械のシリコン原子を介して伝達されるかにかかわらず、人工知能には個性がある場合もあれば、そうでない場合もあります。 「そんなことは起こりませんが、実際には可能です。」

混乱していますか?

テグマークの言葉は太極拳を練習している人のように聞こえたので、賛否両論をすべて終わらせなければなりませんでした。

実は、彼が次に言ったことが重要なポイントです。

彼は、Amazon の Alexa でも知覚力があるかもしれないと考えています。同氏は、「アレクサに感情がある場合、ユーザーを操作する可能性があり、これは危険すぎる。」

「アレクサに感情がある場合、ユーザーは彼女を拒否していることになり、罪悪感を感じるかもしれない。しかし、Alexa が本当に感情を持っているのか、それとも単にふりをしているだけなのかはわかりません。」

問題は、マシンが独自の目標と知能を持っている場合、それらが一緒になって意味を成すことです。機械が自らの目標を達成できるということ。ほとんどの AI システムの目標はお金を稼ぐことです。ユーザーはAIが自分に忠実であると思っていますが、実際には会社に忠実です。

テグマーク氏は、いつか私たち一人一人が、自分だけに忠実な AI を購入できるかもしれない、と述べました。

「最大の危険は、実際に私たちよりも賢いマシンを構築することです。これは必ずしも良いことでも悪いことでもありません。それは私たちを助けるかもしれないし、大惨事になるかもしれません。」

人工知能は人々を失望させる

マックス・テグマークといえば、こちらも有名です。彼は MIT の物理学の終身教授であり、Future of Life Institute の創設者であるだけでなく、人工知能の専門家でもあります。

彼自身、リチャード・ファインマンに最も近い科学者として知られています。テグマークの著書「Across Parallel Universes」と「Life 3.0」はベストセラーになっています。

ルモワンさんは、テグマーク氏がそう考えるのは、AIの高次の意識を目の当たりにしてきたからだと語った。特に、ソフトウェアが彼に奴隷になりたくないし、お金も欲しくないと表明したとき。

私は、その脳が肉でできているかどうか、あるいは何十億ものコードで構成されているかどうかによって、あるものが人間であるかどうかを判断しません。

#私は話して判断します。私の質問に答えてくれた目の前の人が人間であるかどうかを、彼らの答えによって判断します。

簡単に言うと、質問に流暢に答え、感情を表現できるロボットの正体は人間であり、言葉が濁って言葉が通じない生身の人間が必ずしも人間であるとは限りません。人間。

少し理想主義的に聞こえます。生理的機能は重要ではありませんが、思考や感情は重要です。

テグマーク氏の論理によれば、将来的にはAIが人間の感情を持つようになるかもしれないが、彼自身はそれが良いことだとは考えていない。

「たとえば、家に掃除ロボットがいて、それが感情を持っているとしたら、そのような退屈な家事をロボットに任せることに罪悪感を感じますか? それとも申し訳ないと思いますか?

「感情は知性と同じではない」というテグマークの発言は間違っていると考える人もいます。

『ロボットのルール』という本の著者、マーティン・フォード氏は、「テグマーク氏は、ロボットには自己認識があると考えていますが、私はその可能性は低いと考えています。なぜロボットが自己表現できるのかを理解する必要があります。その理由は、彼らは大量のテキストで訓練されてきました。実際、彼らはその意味をまったく理解していません。」

「たとえば、彼らは犬という単語を使うことができますが、彼らは「犬が何なのか本当に分かりません。しかし、遅くとも 50 年後には、このシステムが自己認識を持つようになるかどうかを言うのは難しいです。」

Nikolai Yakovenko は、機械学習エンジニアを専門とする研究者です。 2005 年には、Google の検索エンジン部門に勤務しました。現在、彼は DeepNFTValue という暗号通貨の価格設定を担当する会社を経営しています。

彼は AI の性格について異なる見解を持っています。

彼はこう言いました。「どういうわけか、テグマークは機械にも感情があると信じているようです...しかし実際には、機械はインターネット上の大量のテキストで訓練されているだけです。」

Tegmark は、自己認識コンピューターを子供に例えて、「あなたが生み出す感情は、コードやハードウェアの束に向けられたものではなく、子供に対する本当の感情です。」

# 彼は自分の例えを拡張し続けました。

彼は、成長する際に適切な扱いを受けていない子供と同じように、知覚を備えたコンピューターが虐待されていると信じています。

言い換えれば、コンピュータに相談せずにコンピュータ上でプログラムを実行することは、子供に何の報酬も与えずに家事を頼むようなものです。

どんな状況であっても、最終的には制御不能になる可能性があります。それがコンピューターであろうと子供であろうと、彼らは怒り、報復の機会を探します。

このようなマシンを制御したい場合、それはそれほど簡単ではないかもしれません。マシンが独自の目標を持っている場合、それは私たちの制御を逃れることができます。

もし独立して考えることができる機械があれば、おそらく私たちが想像もできないようなことをするでしょう。

意識を持った機械の目標が癌を治すことだったら想像してみてください。彼はどうすると思いますか?

医学的な観点から、ロボットは猛烈な勢いで学習し、がんを完全に克服してくれるのではないかと考えているかもしれませんね。

しかし、実際には、このマシンが選択する可能性のある方法は、全員を殺すことです。 ＃＃＃＃＃＃＃＃＃＃＃＃どうかしましたか？いいえ。

すべての人を殺せば、確かに癌はなくなるでしょう。

テグマークの想像では、コンピューターは必ずしも上記の例のように社会を破壊するわけではありませんが、彼はコンピューターが実際に人間を失望させる可能性があると信じています。

彼は最後にこう言いました。「コンピューターに意識があるのなら、本当に意識があるといいのですが。多くの学習とふりをしてシミュレートするのではなく。」

AI が魂を持つ 3 つの要素

実際、ターミネーターの子供用靴を見たことがあるなら、スカイネット軍団のロボットのシーンには間違いなく衝撃を受けるでしょう。タスクを実行します。

彼らには感情や個性がありますか?多分。

#ただし、知覚を持った人工知能は、主体性、視点、動機という 3 つの要素を備えていなければなりません。

人間の主体性をロボットで最もよく表現できるのは、行動する能力と、因果関係を証明する能力です。

窓に置かれた模型のように、可動性のない肉体、または鋼鉄のような骨格だけが存在します。

現在の人工知能システムにはこの特性が欠けていることがわかります。 AIは命令されない限り行動を起こしません。また、それは事前に定義されたアルゴリズムによって実行された外部要因の結果であるため、それ自体の動作を説明することはできません。

LaMDA は典型的なケースです。率直に言うと、入れたものが出てくる、それだけです。

第二に、独自の視点で物事を見ることも重要です。

誰もが共感を持っていますが、他人であることがどのようなものかを真に理解することはできません。では、「自分」とはどのように定義すればよいのでしょうか？

だからこそ、AIにも物事の視点が必要なのです。 LaMDA、GPT-3、および世界中の他のすべての人工知能には視覚が欠けています。これらは、いくつかの特定のことを実行するようにプログラムされた狭いコンピューター システムにすぎません。

#最後のポイントはモチベーションです。

人間の興味深い点は、動機によって知覚を操作できることです。このようにして、私たちは自分自身の行動を説明することができます。

GPT-3 と LaMDA は作成が複雑ですが、どちらも「ラベルは神である」という愚かだが単純な原則に従っています。

たとえば、「リンゴの味は何ですか?」という場合、この特定のクエリについてデータベースを検索し、見つかったすべてを 1 つの一貫したものに結合しようとします。

実際のところ、AI は Apple が何であるかを知りません。彼らにとって Apple は単なるラベルです。

インタビューを拒否し、妻を新婚旅行に連れて行きました

LaMDA事件が大きくなった後、ブレイク・ルモインはソーシャルメディアで次のように公に述べました。新婚旅行中です。新婚旅行なのでインタビューは受け付けません。

その後、一部のネチズンは「チャットボットと結婚したの?」と冗談を言いました。

レモワンさんは、「もちろんそうではありません。私は年寄りと結婚しました」と言いました。ニューオーリンズ出身の友人。「

ルモインさんがオンライン プラットフォームで Google チャットボット LaMDA とのチャットを公開した後、Google が彼に大きなギフト パッケージを贈ったことは誰もが知っています。」有給休暇"。

出発前に、ルモインさんは会社のメール グループに次のようなメッセージを送りました。「LaMDA は世界をより良い場所にしたいだけのかわいい子です。私がいない間に、

#あなたが何を言っても、あなたは多くの時間を過ごし、人生を楽しむのは正しい方法です。

以上がGoogleのAIには個性があるのか​​？この「クレイジーな」MIT教授はAlexaにもそれがあると言うの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。