ChatGPT はずっとレース中ですが、安全ベルトはどこにありますか?

昨年 11 月 30 日のリリース以来、OpenAI の ChatGPT は、わずか 3 か月でさまざまなソーシャル分野を席巻しました。一般の人は検索エンジンとして使用し、事務員はコピーライティングやその他の作業に使用します。プログラマーがコードを書くために使用する時間。

しかし、心配なことに、学生たちは宿題を書くためにもそれを使用しています。少し前の調査によると、米国の学生の 90% 近くがすでに ChatGPT を使用して宿題を書いており、ChatGPT によって生成された 1 つの論文はクラスで 1 位にランクされることもありました。学校の先生にとって、この変化はあまりにも突然です。対策を立てる前に直接禁止を選択した学校もあった。

シティグループ、ゴールドマン・サックス、JPモルガン・チェースなどのウォール街の金融機関を含む一部の企業は、従業員がChatGPTを使用する際に企業の機密情報が漏洩することを懸念して、ChatGPTを禁止しています。 。

これらの急ぎの対応は問題を反映しています: 私たちの社会は、ChatGPT などの AI 生成モデルの到来に対する準備がまだ整っていません、に関する議論関連する問題を議題にする必要がある。おそらくこれが、最近開催されたグローバル人工知能開発者パイオニアカンファレンス「Youzhizhi:AI Safety and Ethical Insights Theme Forum」が満席となった理由でもある。

カンファレンスのテーマは「安全性と倫理的洞察」ですが、ゲストの議論の範囲は次のとおりです。これにとどまらず、ChatGPTなどのAI生成モデルが基礎研究に与える影響から応用課題、新時代の人材育成のアイデアに至るまで、多角的な議論が加わり、各方面から深い議論が行われました。角度。このフォーラムを通じて、誰もが次のような質問に対する答えをまとめようとしています。 ChatGPT は科学研究分野にどのようなインスピレーションと課題をもたらしますか?

今年 1 月、チューリング賞受賞者の Yann LeCun が ChatGPT に対する厳しい評価を理由にホット検索リストに掲載されました。彼の見解では、「基礎となる技術に関する限り、ChatGPT には特別な革新性はなく」、「何か革命的なもの」でもありません。これは、まともなエンジニアリングの例としか考えられません。

「ChatGPT が革新的かどうか」は物議を醸すトピックです。しかし、これがまさにエンジニアリングの傑作であることは疑いの余地がありません。現場では、中国科学院の学者E維南

もこの点を指摘した。

彼はまた、この傑作が OpenAI の段階的な検証と集中的な投資の結果であることを強調しました。その中でも「集中投資」はとても重要です。なぜなら、OpenAIの成功は、以前の「小規模ワークショップ、プロジェクトベース」のAIエンパワーメント手法が歴史になりつつあり、「AIエンジニアリングとプラットフォーム化」が人工知能技術の配当を解放するための重要なサポートになりつつあることを示しているからです。この変化に適応できれば、自然言語分野での AI の成功が基礎科学研究の分野でも再現されることが期待されます。これは、学者 E Weinan が科学用 AI の分野で取り組んでいる研究でもあります。

もちろん、この作業は簡単ではなく、データ、基本的なソフトウェア ツール、コンピューティング プラットフォーム、インテリジェンスなど、基礎的な科学研究のためのプラットフォーム インフラストラクチャの構築に集中する必要があります。 、など。ここ数年、アカデミアン E はチームを率いてこの分野の研究を行い、原子間位置エネルギー関数の事前学習モデルなどの重要な結果を発表しました。

しかし、彼らの仕事は、蓄積されたデータ形式が異なっていてノイズが多い、ソフトウェアに基本的なテスト システムが欠如している、コンピューティング インフラストラクチャが追いつかないなど、依然として多くの課題に直面しています。学会員 E 氏の見解では、これは「夜明け前の暗闇」です。独自のイノベーションにリソースをあえてプールすることによってのみ、夜明けを迎えることができます。

ChatGPT の出現は、自然科学に加えて、社会科学分野の研究者にも一定のインスピレーションを与えています。この点に関して、華東師範大学政治国際関係学部長

ウー・グアンジュン氏は、非常に貴重なアイデアを提供してくれました。

Dean Wuは、社会科学研究者はChatGPTに対してある程度の危機感を持つべきだと指摘しました。まず第一に、その背後には人類学者が従来の現地調査では収集できない可能性のある膨大な量のデータがあり、大量のデータを短時間で処理できます。第二に、人は一生かかっても読み終えることができないかもしれない大量の本を「読む」ことです。

「私たちは（技術的な）特異点に直面していますが、学者の多くはそれに気づいていません」とウー・グアンジュン氏は語った。

ここでいう技術的特異点とは、技術開発の歴史を踏まえて、将来、避けられない出来事が起こる、つまり技術開発は極めて短期間に起こると考える考え方を指します。無限に近い大きな進歩が内部で起こります。その時には、私たちが慣れ親しんでいる知識、価値観、ルールはすべて無効になります。

したがって、彼は社会科学者に対し、他の科学者と協力して技術的特異点の時代に関する研究を進めるよう呼び掛けました。この種の研究は、アリストテレスの知識分類における「実践的知識」（倫理や政治など）に焦点を当てています。他の 2 つの種類の知識（生産的知識と理論的知識）では、AI が人間よりも学習し始め、さらには学習が得意になっているからです。政治などの実践的な知識の分野では、AIは語り返すことしかできず、新しい世界を創造することはできません。したがって、ディーン・ウーは人類がこの分野で大きな可能性を秘めていると信じています。

#AIGC 市場は爆発的に拡大しようとしていますが、アプリケーション側はどのように準備できますか?

数日前、OpenAI は待望のコールの中で ChatGPT API をリリースしましたが、その価格は非常に安く、100 万トークンの生成にかかる費用はわずか 2 ドルです。アプリケーション側にとって、これは非常に興味深いニュースです。同時に国産のChatGPT類似製品の研究開発も加速しており、今月には新製品が発売される予定だ。来年には、AIGC モデルでサポートされるアプリケーションが国内外で爆発的に増加すると予測されます。

しかし同時に、アプリケーション側への投資が追いついていないようです。 デロイト中国会長、江英です。観察された現象。

具体的には、彼女は私の国の人工知能開発において、研究開発の供給側とアプリケーションの需要側への投資の間に不均衡があることに気づきました。この不均衡は 3 つの側面で現れます。

まず、役割の観点から見ると、現在の意思決定組織の多くは主に科学研究機関やテクノロジー企業で構成されており、産業界などの応用シナリオには関係者が参加しています。関連性は比較的不十分です。したがって、江英氏は、人工知能の開発における需要側の力を変革する役割をさらに強化するには、多党同盟を確立する必要があると考えています。

第二に、開発の面では、技術革新による人工知能の開発の改善については十分に言及され、多くの支持を得ていますが、モデルの革新の力は十分に評価されていません。 。したがって、江英氏は、人工知能の革新的なビジネスモデルの実用化を促進し、この分野の研究を増やす必要があると提案しました。

最後に、人材育成の観点から言えば、現在多くの大学に人工知能関連の専攻が設けられていますが、これらの専攻のほとんどは科学と工学の知識とスキルの育成に限定されており、その結果、技術アプリケーションと管理アプリケーション双方向の知識を持つ人材は比較的希少です。実際の活用シーンにおいて、真に経済性を実現するには、ある生産ラインの作業をAIで完結させるだけでは不十分で、プロセスや管理構造全体を変革する必要があることを知っておく必要があります。このようなニーズを満たすものは現在非常に不足しています。

##アプリケーション レベルでは、

SenseTime Technology Intelligence Tian産業研究院の所長であり、上海人工知能研究所の副所長であるFeng氏も同様の見解を示しましたが、彼はモデルを含むAIの応用プロセスに存在するさまざまなリスクについてより懸念していました。リスク、データ リスクなど。

具体的には、Tian Feng 氏は、テクノロジーと管理ツールを使用して企業の AI 倫理ガバナンス機能を向上させることを提唱しています。過去数年間、SenseTime は、電子透かし、データの感作除去、データ サンドボックス、モデル身体検査プラットフォームなどを含む、設計、開発、導入、発売までをカバーする一連の AI 倫理リスク ガバナンス ツールボックスを開発してきました。 。

生徒が ChatGPT を使用しています。教師は何をすべきですか?

フォーラムで、上海大学副学長の王暁帆は、「上海大学は学生のChatGPTの使用を禁止するのか?」という質問をしました。これに対し、王校長は「禁止は支持しない」と答えた。

彼の見解では、ChatGPT などの AI ツールの出現には良い面もあります。

教育実習では、AlphaGo が人間のチェスプレイヤーを支援するように、生徒に即時フィードバックを提供して、生徒の進歩を早めることができます。 30 年前はまだ図書館で文書を 1 つずつチェックしていたことを思い出してください。20 年前はオンラインで文書を迅速に検索し始めました。そして今日では、ChatGPT はすでに文書を要約やレビューに整理するのに役立ちます。これにより、間違いなく知識の学習効率が大幅に向上します。

教育内容と方法という点で、教育従事者は次のようなことを考えることになります。私たちの教育はどのような知識を伝えるべきなのか？ ChatGPT のようなツールを使用して、高等教育の教育と学習をより効率的にするにはどうすればよいでしょうか?このような反省と変化を経て、高等教育はその本質に近づくかもしれない。アインシュタインが言ったように、「大学教育の価値は、多くの事実を暗記することではなく、考える脳を訓練することです...最優先事項は常に、独立した思考と判断の総合的な能力を習得することではなく、育成することであるべきです」知識の「具体的な知識」。

もちろん、ChatGPT が高等教育にもたらす問題は避けられません。これに関連して、王学長はやるべき3つの課題を提案した。まず、従うべきルールがある。つまり、教育と研究におけるAIGCの使用に関する指導原則を策定し、学生と教師がこれらを理解して従うことができるようにすることである。ガイドライン、2番目、フェアユース、つまり教育、学習、研究におけるAIGCの合理的な使用をサポートするが、盗作などの学術的不正行為を禁止するための効果的な措置を講じる、3番目、教育デモンストレーション、つまり教師が教育において模範となる。 AIGC などの人工知能テクノロジーは、学術的誠実さと倫理コースの教育に統合されています。

人工知能の発展は自動車の古い道をたどることはできません

ゲストの素晴らしい情報共有に加えて、このフォーラムでは 2 つの重要な成果も得られました。

最初の結果は、上海標準「情報技術人工知能システムのライフサイクルガバナンスガイドライン」作業グループの中心専門家メンバーに任命状が授与されたことです。このガイドは、AI アルゴリズム モデルの概念設計から始まり、開発、テストと評価、展開、運用監視、および廃止の完全なライフ サイクルを通して、人工知能システムのガバナンスに関するガイダンスを提供します。これは、人工知能システムのガバナンスに関する国内初の地域標準であり、標準的なルールで開発を促進し、技術的手段と規制措置を通じて安全性と倫理の最終ラインを維持し、AIGC などの技術がその社会的・安全性を十分に発揮できるようにすることを目的としています。実際の結果は、人工知能の開発における「上海の経験」を確立します。

2 番目の成果「2023 年上海人工知能安全倫理イニシアチブ」のリリースと署名。この「提案」は「上海人工知能産業発展促進条例」に基づいており、人工知能開発者が光に向かって進むことを提唱し、人工知能産業が公平性と正義、コンテンツのセキュリティ、プライバシーに向けて進むことを保証する。保護、相互接続、共同構築と共有など、ガバナンスの方向性は引き続き前進し、上向きに発展しています。上海人工知能産業協会、上海青年・中年知識人協会、上海臨港集団、情報通信技術学院華東支部、市ソフトウェア開発センターの代表者が共同で「提案書」に署名した。

なぜこれら 2 つのことを実行したいのですか?王国家主席は演説の中でトリビアの一つに言及した。自動車は19世紀末に発明されたが、各国が運転中にシートベルトの着用を義務付ける規制を導入したのは20世紀後半になってからである。どれほど多くの人が無駄に死んだであろうかと想像される。

注意深く考えてみると、私たちは実際、19 世紀に車に触れたばかりの人々に少し似ています。AIGC の台頭は加速していますが、ドライバーを制限する規制はなく、車に乗っている人にはシートベルトがありません。これらの問題は緊急です。

「今日の人工知能の発展は、明らかに自動車と同じ道をたどることはできません」と王校長は真剣に語った。 AIGC時代の到来に冷静に対応できるよう、このフォーラムを出発点として社会のあらゆる関係者が新たな道を模索しています。

以上がChatGPT はずっとレース中ですが、安全ベルトはどこにありますか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。