ChatGPT や Bard のような生成型 AI ボットをどのように規制するか?

研究によると、一般的な人工知能ツールの普及により、規制当局にとって対処が難しい新たな課題が生じる可能性があります。実際、OpenAI のチャットボット ChatGPT などの生成 AI ツールをどのように規制するかは、世界中の政策立案者を悩ませる問題となっています。

ChatGPT は、キーワードを通じてあらゆる種類のコンテンツを生成でき、大量の知識を入力するようにトレーニングされています。解決策にはリスクの評価が含まれ、その一部は特に注意深く監視する必要があります。

ChatGPT の発売から 2 か月後、この AI チャットボットは史上最も急成長している消費者向け製品となり、今年 1 月だけで 1 億人を超えるアクティブ ユーザーがいます。これにより、世界中の大手テクノロジー企業が AI システムの導入に注目または加速するようになり、会話型 AI の分野に新たな活力をもたらしました。

Microsoft は、ブラウザ、検索エンジン、および幅広い製品範囲に会話型 AI を組み込んでいます。Google は、チャットボット Bard や、Gmail と Google Cloud のその他の統合で同様のことを計画しています。Baidu などの大手テクノロジー企業も独自のサービスを開始しています。チャットボット、Jasper や Quora などの新興企業も、生成型 AI と会話型 AI を消費者市場や企業市場の主流に導入しています...

生成型 AI が規制需要を加速します

広範な誤情報と見つけにくいフィッシングメールは AI の応用に現実的なリスクをもたらし、医療情報に使用されると誤診や医療過誤につながる可能性があります。モデルの作成に使用されるデータが多様でない場合、バイアスが生じるリスクも高くなります。

Microsoft にはよ​​り正確な再トレーニングされたモデルがあり、AI21 Inc. のようなプロバイダーは、生成されたコンテンツをライブ データと照合して検証することに取り組んでいますが、生成された AI は「本物のように見えますが、完全に不正確」であり、対応のリスクは依然として高いままです。

欧州連合域内市場委員ティエリー・ブルトン氏は最近、次期 EU AI 法案には ChatGPT や Bard などの生成 AI システムに関する規定が含まれると述べました。

「ChatGPT が示しているように、AI ソリューションは企業や国民に大きなチャンスをもたらす可能性がありますが、リスクももたらす可能性があります。だからこそ、データに対して品質に基づいた信頼できる AI を保証するための強固な規制枠組みが必要なのです。」と同氏は述べました。

AI 開発は倫理的である必要があります

分析ソフトウェア プロバイダーである SAS は、「AI と責任あるイノベーション」というタイトルのレポートで、AI によってもたらされるリスクの一部について概説しました。報告書の著者であるカーク・ボーン博士は、「AIは非常に強力になり、普及してきたため、AIが生成するコンテンツが真実か嘘か、良いか悪いかを判断することがますます困難になっています。このテクノロジーの導入ペースは、

SAS UKおよびアイルランドのデータサイエンス責任者であるイアン・ブラウン博士は、政府と業界の両方がAIを害するのではなく良い方向に利用する責任があると述べた。これには、AI モデルの開発をガイドする倫理的フレームワークの使用や、これらのモデルが公正、透明、公平な意思決定を確実に行うための厳格なガバナンスが含まれます。 AI モデルをチャレンジャー モデルと比較し、新しいデータが利用可能になったときに最適化できます。

他の専門家は、ソフトウェア開発者はソフトウェアによって表されるリスクを軽減する必要があり、最もリスクの高い活動のみがより厳しい規制措置を受けることになると考えています。

Ropes & Gray LLP (Ropes&Gray) データ, プライバシーおよびサイバーセキュリティ担当補佐官のエドワード・マチン氏は、ChatGPTのような一見一夜にして現れた技術が、特にAIのようなすでに困難な環境においては、規制よりも早く採用されることは避けられないと述べた。 「これらの技術に対する規制政策は導入されるだろうが、規制の方法や規制のタイミングはまだ分からない。 AI システムのサプライヤーが矢面に立つことになるが、（少なくとも EU 内の）輸入業者や販売業者も潜在的な義務を負うことになる。これにより、一部のオープンソース ソフトウェア開発者が窮地に陥る可能性があります。オープンソース開発者やその他の下流関係者の責任がどのように扱われるかは、これらの個人の革新や研究の実施に対する意欲を萎縮させる影響を与える可能性があります。

著作権、プライバシー、GDPR 規制

さらに、Machin 氏は、AI の全体的な監督に加えて、AI の著作権とプライバシーに関する問題もあると考えています。たとえば、開発者が個人の削除や修正のリクエストを (もしあったとしても) どれだけ簡単に処理できるか、また、利用規約に違反する可能性のある方法でサードパーティのサイトを自分のサイトからどのようにスクレイピングできるかは不明です。大量のデータ

ニューカッスル大学の法学、イノベーション、社会の教授であり、アラン・チューリング研究所で AI 規制に取り組んでいるリリアン・エドワーズ氏は、これらのモデルの一部は GDPR 規制の対象となる可能性があると述べました。トレーニング データやアルゴリズム自体を削除する命令を発行する Web サイトの所有者が AI 検索へのトラフィックを失った場合、現在 Google などの検索エンジンを支えているインターネットからのデータの大量スクレイピングの終了を意味する可能性もあります。

彼は、最大の問題はこれらの AI モデルの一般的な性質であると指摘しました。このため、エンドユーザーがそのテクノロジーを使って何をするのかを知ることが難しいため、直面するリスクに基づいて起草された EU AI 法の下でそれらを規制することが困難になっています。欧州委員会は、この種のテクノロジーを管理するための規則を追加しようとしています。

アルゴリズムの透明性を高めることが解決策になる可能性があります。エドワーズ氏は、「大手テック企業は規制当局に対し、『われわれには将来のあらゆるリスクや用途を想像できないのだから、こうした義務を課すことはできない』とロビー活動を始めるだろう。「この問題に対処する方法はある」と述べた。 」

# 彼女はまた、次のようにも述べました。「これは、人々がより退屈なテクノロジーを使用するときに遭遇するのと同じ問題です。テクノロジーはグローバルであり、悪意のある人々はどこにでもいるため、規制するのは非常に困難です。難しいのです。一般的な AI の動作は次のとおりです。」 AI 規制に適合させるのは困難です。」

AI コンサルティング サービス プロバイダーである DragonFly の最高技術責任者、アダム レオン スミス氏は次のように述べています。 、規制するのは困難です。精度とバイアスの要件は使用の状況でのみ考慮でき、大規模な導入前にリスク、権利、および自由の要件を考慮するのは困難です。"

"規制当局は義務化することができます。 AI テクノロジープロバイダーからの透明性とログ記録。しかし、特定の目的で大規模言語モデル (LLM) システムを運用および展開するユーザーのみが、リスクを理解し、手動による監視や継続的な監視を通じて軽減策を実行できます。」と同氏は付け加えました。

AI 規制が差し迫っています

欧州委員会内で AI 規制に関する大規模な議論が行われており、データ規制当局はこれに真剣に対処する必要があります。最終的には、規制当局がこの問題にさらに注意を払うにつれて、AIプロバイダーは、ユーザーがログインする前に法的免責事項を発行するなど、テクノロジーを「使用してはならない」目的を列挙し始め、リスクベースの立場に置かれるだろうとスミス氏は考えている。 . 規制措置の範囲外。

Leon Smith 氏は、AI システム管理の現在のベスト プラクティスには、非常に急速に発展している新興分野である大規模な言語モデルがほとんど含まれていないと述べました。この分野でやるべきことはたくさんありますが、多くの企業がこれらのテクノロジーを提供しているだけで、その定義には関与していません。

OpenAI 最高技術責任者のミラ ムラッティ氏も、生成 AI ツールは規制される必要があると述べ、「当社のような企業にとって、管理された責任ある方法でこのことを一般の人々に認識させることが重要です。」また、AIサプライヤーの規制に加えて、規制当局や政府からの投資も含め、AIシステムへのさらなる投資が必要であるとも述べた。 「

以上がChatGPT や Bard のような生成型 AI ボットをどのように規制するか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。