目次
セルフプル
私はお金には興味がありません
夢への長い道のり
ホームページ テクノロジー周辺機器 AI GPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!

GPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!

Apr 11, 2023 am 11:55 AM
安全性 開発する

OpenAI のチャットボットは世界に衝撃を与えました。

しかし、このテクノロジーが偽情報を広め、危険なことを人々に勧める手段でもあることに人々が気づくと、一部の批評家はアルトマンの無謀な行動を非難しました。

多くの業界リーダー、人工知能研究者、学者は、ChatGPT が Web ブラウザーや iPhone の誕生と同じくらい重要な根本的な技術的変化であると考えています。しかし、テクノロジーの将来について同意できる人はほとんどいません。

これにより、誰もが必要な時間とお金をすべて手に入れることができるユートピアが実現すると考える人もいます。人類を滅ぼす可能性があると信じている人もいます。他の人たちは、テクノロジーが誰もが言うほど強力になることは決してない、と主張することにほとんどの時間を費やし、涅槃も終末もまだ遠くないと主張します。

GPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!

過去 1 週間にわたり、1,000 人を超える人工知能の専門家や技術リーダーが、OpenAI やその他の企業に対し、次のようなシステムへの取り組みを一時停止するよう求めてきました。 ChatGPTの仕事は「社会と人類に重大なリスクをもたらす」と述べた。

OpenAI の CEO として、アルトマンはこれらの一見矛盾した見解をそれぞれ何らかの方法で体現しており、無数の可能性のバランスを取りながら、この奇妙で強力な、欠陥のある欠陥のあるテクノロジーを未来にもたらすことを望んでいます。 。

GPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!

#つまり、彼はあらゆる方向から批判されることが多いということです。しかし、OpenAI の社長であるグレッグ ブロックマン氏は、これが適切であると考えています。「両極端の人々を同じように不快にさせるのであれば、それは正しいことをしているということです。」

マンハッタン プロジェクトのリーダー、ロバート オッペンハイマー氏原爆は科学の進歩の必然の産物であり、ウルトラマンはオッペンハイマーと同じ誕生日であると信じていた。 OpenAI のテクノロジーについて語る際、アルトマン氏の次の言葉も引用しました:「テクノロジーが起こるのは、それが可能だからです。」彼は、人工知能が何らかの形で実現し、彼ですら想像できないことを行うだろうと信じています。素晴らしいことです。私たちはそれが引き起こす可能性のある害を軽減する方法を見つけることができます。

この姿勢は、ウルトラマン自身の成長の軌跡を反映しています。彼は、効果的な個人スキルによって成功と富に向かってかなり着実に上り詰めました。彼が良いことが起こると信じているのは当然だ。

しかし、彼はまた、もし自分が間違っていれば、脱出方法があるとも言いました。Microsoft などの投資家との契約において、OpenAI の取締役会は、適切なタイミングでいつでもテクノロジーを閉鎖する権利を留保します。

セルフプル

ウルトラマンは菜食主義者でありながら牛を飼うという矛盾の中に生きている人物です。

彼は、自分の会社が開発したテクノロジーについて話すとき、テクノロジーが「私たちの最も差し迫った問題のいくつかを解決し、生活水準を真に向上させ、人間の意志と創造性を活かす方法を見つけるだろう」と信じています。

しかし、それがどのような問題を解決するのか、彼は完全には確信していません。同時に、この技術が権威主義政府の手に渡った場合、深刻な危害を引き起こす可能性があることを同様に懸念している。

ベンチャーキャピタル会社Thrive Capitalのパートナーで、OpenAIの取締役顧問としてアルトマン氏と協力したケリー・シムズ氏は、常に自分自身と議論しているように感じたと述べた。

問題は、ウルトラマンの 2 つの側面が最終的に両立するかどうかです。災害?もちろん、ウルトラマンはこれがどのように起こるかを見届けようと決意している。

2014 年から 2019 年までシリコン バレーのスタートアップ アクセラレータ兼シード投資家である Y Combinator の社長として、彼は次々と新規企業にアドバイスを送り、現在ではよく知られている企業のいくつかに賢明な投資を行いました。 Airbnb、Reddit、Stripe。

彼は、テクノロジーが指数関数的な成長を達成できるかどうかを見極める能力に誇りを持っています。

私はお金には興味がありません

個人の富がさまざまな上場企業や民間企業に結びついているシリコンバレーの多くの人々と同じように、アルトマンも次のような人です。彼ら 。そして彼の富は驚くべきものではありません。

彼は OpenAI の株を持っていません。彼が会社から得ている唯一の収入は、年収約6万5000ドルと、Y Combinatorによる同社への過去の投資の一部だけだ。

Y Combinator の創設者であるポール グレアムは、アルトマンのパートナーであり指導者であり、アルトマンの動機を次のように説明しました。 「金持ちにならない仕事に就くというのか? 一つの答えは、多くの人は十分なお金を手に入れたらそうするだろうということであり、サムもそれをした。そしてもう一つの答えは、彼は権力が好きだということだ。」

ビル・ゲイツはこんな人に違いない

1990年代後半、19世紀アメリカの博物学者で哲学者の名をとった私立プレップスクール、ジョン・バローズの生徒会にはアンチが溢れていた。 -ゲイの感情、恐怖。

21 世紀初頭、17 歳の学生ウルトラマンは学校の文化を変え始め、教室に「安全な場所」の標識を貼るよう教師を一人ずつ説得しました。彼のような人々をサポートする方法としてのドア 同性愛者の学生からの声明。

同校の高度なコンピューター サイエンス コースを教えているジョージアン ケプチャー氏は、アルトマンを最も才能のあるコンピューター サイエンスの生徒の 1 人だと考えています。 「彼は他の人たちに協力してもらい、自分のアイデアを実行に移すよう説得することができました。アルトマンはまた、かつて特に同性愛嫌悪的な教師に安全な場所の標識を設置するよう依頼して成功したこともあったと語った。」

## 1 年生のとき、彼はアンドリュー ン教授の人工知能とロボット工学の研究室で働きました。アンドリュー ン教授は後に Google の主力人工知能研究室を設立しました。しかし彼は、スタンフォード大学に短期間滞在していた間、他の大学の活動よりも夜間にポーカーをプレイすることで多くのことを学び、そのポーカーが人間の見方やリスクの評価方法を教えてくれたと語った。

「時間の経過とともに人々が持つパターンに気づく方法、非常に不完全な情報で意思決定を行う方法、より多くの情報を得るために苦労する価値があるときの判断方法など、素晴らしいゲームです。 "

アルトマンと 10 年間仕事をしてきたグレアムは、セントルイス出身のアルトマンにも同じ説得力があると感じています。「彼には天性の能力があり、人々に物事を行うよう説得することができます。それは生まれつきのものではなく、少なくとも彼が20歳になる前に完全に発達していました。サムに初めて会ったとき、彼は19歳でした、そして私はこう思いました:『ビル・ゲイツはきっとこういう人だ』」

グラハムが Y Combinator の社長を辞任したとき、28 歳のアルトマンを後継者に選んだのはシリコンバレーの人々に衝撃を与えました。なぜなら、これはプログラマーやエンジニア、あるいは人為的な雇用を目的としたものではなかったからです。諜報研究者であり、彼は議題を設定し、チームを編成し、契約を締結しようとしていた人でした。

GPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!

YC の社長として、アルトマンは会社の拡大をほぼ諦め、新しい投資ファンドと新しい研究所を設立し、会社に毎年コンサルティングを提供させました。数百にまで拡大しました。

彼はまた、マスク氏を含むグループとともに 2015 年に設立した非営利団体 OpenAI など、投資会社以外のいくつかのプロジェクトにも取り組み始めました。 YC さんは、ウルトラマンが自分自身を疲弊させているのではないかとますます心配するようになり、彼が言うように、世界に真の影響を与えるであろうプロジェクト、つまり人工知能に再び注意を向けることに決めました。

彼の兄によると、自分は人工知能の研究を通じて世界を変えることができる数少ない人物の一人であると信じていました。

2019 年、OpenAI の研究が軌道に乗り始めたとき、アルトマン氏は Y Combinator の社長を辞任し、従業員数 100 人未満の会社に注力する機会を捉えました。 、給与計算書の開き方さえ知らない会社。

1 年以内に、彼は OpenAI を営利部門を備えた非営利企業に変えました。そうすれば、人間の脳ができることなら何でもできる機械を作るための資金を調達できるだろう。

彼は、「億万長者のサマーキャンプ」と呼ばれることが多いテクノロジーリーダーの年次集会でマイクロソフトの CEO サティア・ナデラと会い、その後ナデラと直接会い、マイクロソフトの最高技術責任者であるケビン・スコットが交渉を行った。取引。

GPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!

OpenAI 社長のブロックマン氏は、アルトマンの才能は人々のニーズを理解することにあると述べました。最も重要なことを言い、それを伝える方法を見つけるのが、彼が何度も繰り返し使っているアルゴリズムです。」

この合意により、OpenAI と Microsoft が運動の中心に立つことになります。 、検索エンジンから電子メールアプリ、オンライン家庭教師に至るまで、あらゆるものを再構築しようとしている動きです。そして、これが起こっているスピードは、このテクノロジーを何十年も追跡してきた人々さえも驚かせています。

この熱狂の中でも、ウルトラマンは相変わらず冷静だった。マイクロソフト CTO のスコット氏は、ウルトラマンは最終的にはスティーブ ジョブズ、ビル ゲイツ、マーク ザッカーバーグと同じくらい偉大になるだろうと信じています。

「彼らはテクノロジー業界の構造、そしておそらく世界の構造に消えることのない足跡を残した人々です。サムもそのような人々の一人になると思います。 》

夢への長い道のり

#Yudkowsky と彼の作品は、OpenAI と DeepMind の作成において重要な役割を果たしました。彼はまた、人工知能が実存的リスクであると信じ、いつか世界を破壊することを恐れる合理主義者や有能な利他主義者の広大なオンライン コミュニティの誕生にも貢献しました。

OpenAI を含む多くのトップ人工知能研究所の研究者は、この非常に影響力のあるグループに属しています。彼らはこれを偽善とは考えていません。彼らの多くは、自分たちはこのテクノロジーを構築するのに最適な立場にいるため、他の人よりも危険性をよく理解していると信じています。

アルトマン氏は、有能な利他主義者が人工知能の台頭において重要な役割を果たしており、業界に危険性を警告できると信じています。また、彼らは危険を誇張しているとも考えている。

OpenAI が ChatGPT を開発している間、Google や Meta を含む他の多くの企業が同様のテクノロジーを構築していました。しかし、このテクノロジーを世界と共有することを選択したのは、ウルトラマンと OpenAI でした。

現場の多くの人がこの決定を批判し、失敗する技術やでっち上げられる技術、すぐに拡散するために使用される可能性のある技術のリリース競争を引き起こすと主張している。すぐに誤った情報を流します。

イタリア政府は金曜日、プライバシーと未成年者が危険なコンテンツにさらされることへの懸念を理由に、国内でのChatGPTの使用を一時的に禁止した。

アルトマンは、このテクノロジーを完全にリリースする前に完全に密室で開発およびテストするよりも、誰もがリスクと対処方法をよりよく理解できるように段階的に共有する方が良いと考えています。このほうが安全です。

それは「非常にゆっくりとした離陸」になるだろうと彼は語った。人間の知性が役に立たない世界など想像もできないと彼は語った。もし自分が間違っていたとしても、人間の過ちは償えると考えたのです。

彼は OpenAI を、彼が言うところの収益力のある会社に再構築しました。これにより、マイクロソフトなどの投資家に利益を約束して数十億ドルの資金を確保することができた。しかし、こうした利益には上限があり、追加の収益は2015年に設立された非営利団体OpenAIに吸い上げられることになる。

彼の壮大なアイデアは、OpenAI が AGI を作成することで世界の富のほとんどを獲得し、この富を人々に再分配するというものです。

しかし、富を再分配する方法がわかりません。彼は、この新しい世界ではお金の意味は異なるかもしれないと信じていますが、「AGI がこの問題の解決に役立つと思います。」

以上がGPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

おすすめのAI支援プログラミングツール4選 おすすめのAI支援プログラミングツール4選 Apr 22, 2024 pm 05:34 PM

この AI 支援プログラミング ツールは、急速な AI 開発のこの段階において、多数の有用な AI 支援プログラミング ツールを発掘しました。 AI 支援プログラミング ツールは、開発効率を向上させ、コードの品質を向上させ、バグ率を減らすことができます。これらは、現代のソフトウェア開発プロセスにおける重要なアシスタントです。今日は Dayao が 4 つの AI 支援プログラミング ツールを紹介します (すべて C# 言語をサポートしています)。皆さんのお役に立てれば幸いです。 https://github.com/YSGStudyHards/DotNetGuide1.GitHubCopilotGitHubCopilot は、より少ない労力でより迅速にコードを作成できるようにする AI コーディング アシスタントであり、問​​題解決とコラボレーションにより集中できるようになります。ギット

どのAIプログラマーが一番優れているでしょうか? Devin、Tongyi Lingma、SWE エージェントの可能性を探る どのAIプログラマーが一番優れているでしょうか? Devin、Tongyi Lingma、SWE エージェントの可能性を探る Apr 07, 2024 am 09:10 AM

世界初の AI プログラマー Devin の誕生から 1 か月も経たない 2022 年 3 月 3 日、プリンストン大学の NLP チームはオープンソース AI プログラマー SWE-agent を開発しました。 GPT-4 モデルを利用して、GitHub リポジトリの問題を自動的に解決します。 SWE ベンチ テスト セットにおける SWE エージェントのパフォーマンスは Devin と同様で、平均 93 秒かかり、問題の 12.29% を解決しました。専用端末と対話することで、SWE エージェントはファイルの内容を開いて検索したり、自動構文チェックを使用したり、特定の行を編集したり、テストを作成して実行したりできます。 (注: 上記の内容は元の内容を若干調整したものですが、原文の重要な情報は保持されており、指定された文字数制限を超えていません。) SWE-A

Java フレームワークのセキュリティ アーキテクチャ設計は、ビジネス ニーズとどのようにバランスをとる必要がありますか? Java フレームワークのセキュリティ アーキテクチャ設計は、ビジネス ニーズとどのようにバランスをとる必要がありますか? Jun 04, 2024 pm 02:53 PM

Java フレームワーク設計では、セキュリティ ニーズとビジネス ニーズのバランスをとることでセキュリティを実現し、主要なビジネス ニーズを特定し、関連するセキュリティ要件に優先順位を付けます。柔軟なセキュリティ戦略を策定し、脅威に階層的に対応し、定期的に調整します。アーキテクチャの柔軟性を考慮し、ビジネスの進化をサポートし、抽象的なセキュリティ機能を考慮します。効率と可用性を優先し、セキュリティ対策を最適化し、可視性を向上させます。

PHP 関数の新機能により開発プロセスはどのように簡素化されるのでしょうか? PHP 関数の新機能により開発プロセスはどのように簡素化されるのでしょうか? May 04, 2024 pm 09:45 PM

PHP 関数の新機能により、次のような開発プロセスが大幅に簡素化されます。 アロー関数: コードの冗長性を減らすための簡潔な匿名関数構文を提供します。プロパティの型宣言: クラス プロパティの型を指定し、コードの可読性と信頼性を向上させ、実行時に型チェックを自動的に実行します。 null 演算子: null 値を簡潔にチェックして処理し、オプションのパラメーターの処理に使用できます。

Struts 2 フレームワークのセキュリティ構成と強化 Struts 2 フレームワークのセキュリティ構成と強化 May 31, 2024 pm 10:53 PM

Struts2 アプリケーションを保護するには、次のセキュリティ構成を使用できます。 未使用の機能を無効にする コンテンツ タイプ チェックを有効にする 入力を検証する セキュリティ トークンを有効にする CSRF 攻撃を防ぐ RBAC を使用してロールベースのアクセスを制限する

C++ での機械学習アルゴリズムの実装: セキュリティに関する考慮事項とベスト プラクティス C++ での機械学習アルゴリズムの実装: セキュリティに関する考慮事項とベスト プラクティス Jun 01, 2024 am 09:26 AM

C++ で機械学習アルゴリズムを実装する場合、データ プライバシー、モデルの改ざん、入力検証などのセキュリティを考慮することが重要です。ベスト プラクティスには、安全なライブラリの採用、権限の最小化、サンドボックスの使用、継続的な監視が含まれます。実際のケースでは、Botan ライブラリを使用して CNN モデルを暗号化および復号化し、安全なトレーニングと予測を確保する方法を示します。

PHP マイクロフレームワーク: Slim と Phalcon のセキュリティに関する議論 PHP マイクロフレームワーク: Slim と Phalcon のセキュリティに関する議論 Jun 04, 2024 am 09:28 AM

PHP マイクロフレームワークにおける Slim と Phalcon のセキュリティ比較では、Phalcon には CSRF および XSS 保護、フォーム検証などのセキュリティ機能が組み込まれていますが、Slim にはすぐに使用できるセキュリティ機能がなく、手動で実装する必要があります。セキュリティ対策。セキュリティ クリティカルなアプリケーションの場合、Phalcon はより包括的な保護を提供するため、より良い選択肢となります。

PHP セキュリティのベスト プラクティスを実装する方法 PHP セキュリティのベスト プラクティスを実装する方法 May 05, 2024 am 10:51 AM

PHP セキュリティのベスト プラクティスを実装する方法 PHP は、動的でインタラクティブな Web サイトの作成に使用される最も人気のあるバックエンド Web プログラミング言語の 1 つです。ただし、PHP コードはさまざまなセキュリティ脆弱性に対して脆弱になる可能性があります。 Web アプリケーションをこれらの脅威から保護するには、セキュリティのベスト プラクティスを実装することが重要です。入力検証 入力検証は、ユーザー入力を検証し、SQL インジェクションなどの悪意のある入力を防止するための重要な最初のステップです。 PHP は、filter_var() や preg_match() などのさまざまな入力検証関数を提供します。例: $username=filter_var($_POST['username'],FILTER_SANIT

See all articles