GPT-4は苦情のため禁止を求められた：OpenAIはFTCが発行した人工知能標準のいずれも満たしていない

数日前、マスク氏、ヨシュア・ベンジオ氏らは、すべてのAI研究所に対し、GPT-4より強力なAIモデルのトレーニングを直ちに中止するよう求める公開書簡に連名で署名した。今、誰かがリリースされた GPT-4 を止めようとしています。

今回、GPT-4を阻止したのは非営利団体Center for Artificial Intelligence and Digital Policy (CAIDP)でした。 CAIDPは米国連邦取引委員会（FTC）に対し、OpenAIを調査し、同社がGPT-4を今後リリースすることを禁止するよう要請した。

ファイルアドレス: https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC -Complaint-OpenAI-GPT-033023.pdf

CAIDP は、「OpenAI がリリースした消費者向け製品 GPT-4 には偏りがあり、欺瞞的である」と考えたため、この申請を FTC に提出しました。 「プライバシーと公共の安全にリスクをもたらします。モデルの出力は証明も再現もできず、展開前に個別に評価されることもありません。」

CAIDP は、米国内のすべての商用人工知能製品に対する独立した監視と評価を求め、消費者、企業、商業市場を保護するために必要な「安全策」が確実に講じられるようにします。

以前、FTCは人工知能の基準を発表したが、その基準は「説明責任を促進する一方で、人工知能の使用には透明性、説明可能性、公平性、そして「経験的に合理的」であることが要求される」とCAIDPは述べた。 「OpenAI の GPT-4 はこれらの要件をいずれも満たしていません。」

GPT-4 のリリースからまだ 2 週間しか経っていませんが、この種の強力な AI モデルについてはすでに人々の意見が大きく分かれています。 GPT-4 のような強力なモデルを阻止したいと考えている人たちは、これらのモデルが情報セキュリティ、さらには人間社会に大きなリスクをもたらすと信じている一方で、今は人工知能にとって良い時期だと信じている人もいます。技術進歩の加速が促進されるべきである。

興味深いことに、OpenAI CEO の Sam Altman 氏は、新しいツイートを投稿しました:「嵐の真っ只中にいても落ち着いてください。」これは、最近の一連の「GPT-4 の停止、など」「モデル研究」の呼びかけに応えたもの。

リスクの観点から言えば、OpenAI はリリース時に、GPT-4 によってもたらされる潜在的なリスクを評価するよう外部の専門家に依頼したと述べました。しかし、CAIDPはFTCへの提出文書の中で、GPT-4が違反する行為を明らかにした。

CAIDP は、GPT-4 が商業的公平性に重大な影響を与えていると考えており、「GPT-4 の商業的リリースは、FTC 法の第 5 条と、使用と広告に関する FTC の規制に違反します」と述べています。 「人工知能製品の標準。企業によって設定された標準、および人工知能のガバナンスなどの新たな規範」

さらに、OpenAI はそうではありませんでした。 GPT-4 の技術的詳細を開示すること。これが、CAIDP が FTC に申請を提出した理由の 1 つです。

CAIDPは、「OpenAIは、アーキテクチャ、モデルサイズ、ハードウェア、コンピューティングリソース、トレーニング技術、データセット構築やトレーニング方法に関する詳細を開示しておらず、これは研究では一般的な慣行である」と述べた。コミュニティは、大規模な言語モデルのトレーニング データとトレーニング テクノロジを文書化する予定ですが、OpenAI は GPT-4 ではこれらのことを行わないことを選択しました。特に、生成人工知能モデルは、使用中に異常な動作を示す可能性があるため、通常の消費者製品ではありません。この行為は、発行会社によって以前に発見されていなかった可能性があります。」

苦情の詳細

具体的には、CAIDP は GPT-4 をターゲットにしており、関連モデルである ChatGPT は、潜在的なリスクの範囲。

たとえば、OpenAI は、記事「GPT-4 システム カード」の中で、GPT-4 が特定の疎外されたグループに対するものを含め、特定の偏見や世界観を強化し、再現する可能性があることを明らかにしました。固定観念と軽蔑的な連想。 CAIDPはまた、OpenAI社のブログ投稿を引用し、同様の大規模モデルであるChatGPTが有害な指示に応答したり、偏った動作を示したりする場合があると述べた。

FTC に提出した訴状の中で CAIDP は、「OpenAI はリスクを十分に理解しているにもかかわらず、商業利用を目的として GPT-4 を一般公開した」と述べています。訴状ではまた、「GPT-4 システムカードには、OpenAI がテスト中に実施したセキュリティチェックの詳細が記載されておらず、OpenAI が児童を保護するために講じた措置についても詳細が記載されておらず、これにより、GPT-4 システムカードの使用についても疑問が生じている」とも主張されています。

CAIDP はまた、欧州の消費者団体 BEUC が提起した懸念についても指摘しました。「ChatGPT が消費者信用や保険のスコアに使用された場合、 「不適切な結果？公平で偏った結果？」 このツイートは CAIDP の苦情申請書にも引用されている。

さらに、ネットワーク セキュリティの観点から、ChatGPT はフィッシング、偽のテキストの作成、または悪意のあるコードの生成に使用される可能性があります。 CAIDPはプライバシーの面で、OpenAIが他のユーザーにプライベートチャットを表示したという報告が今月あったと述べた。

別のケースでは、AI 研究者は、ChatGPT がどのようにして誰かのアカウントを乗っ取り、チャット履歴を表示し、情報に気付かずに請求書にアクセスできるかを説明しました。ただし、OpenAI はこの脆弱性を修正しました。

CAIDP はまた、GPT-4 は画像入力からのテキスト応答を提供でき、これは個人のプライバシーと個人の自律性に多大な影響を与える機能であり、ユーザーが個人画像をリンクされた画像に変換できるとも述べています。詳細な個人データまで。 OpenAIが画像からテキストへの変換機能を停止したことは理解されているが、実際の状況がどうなのかを言うのは難しい。

CAIDP は、FTC が OpenAI による GPT のさらなる商用展開を禁止し、展開前および GPT AI ライフサイクル全体を通じて GPT 製品の独立した評価を要求し、OpenAI に FTC AI に準拠するよう要求すべきであると考えています。消費者詐欺を報告するための FTC のメカニズムと同様に、公的にアクセス可能な GPT-4 のインシデント報告メカニズムを確立します。

CAIDPはまた、FTCに対し、「生成人工知能市場分野における製品の基本標準」として機能する標準仕様をさらに公開するよう求めた。

AI 学界、議論

過去 2 日間で、数千人が GPT-4 フォローアップ AI 大型モデルの開発を中止する請願書に署名しました。本日、CAIDP は FTC に対し、OpenAI の禁止を調査し、GPT-4 の新しい商用バージョンをリリースするよう要請しました。わずか 1 ～ 2 日でさまざまな議論が爆発し、AI の責任者やさまざまな専門家が公の場で応答するようになりました。それに反対する人もいるし、支持する人もいる。

GPT-4フォローアップAI大型モデルの研究開発の一時停止に関して、チューリング賞受賞者のヨシュア・ベンジオ氏、テスラCEO（OpenAI共同創設者）のイーロン・マスク氏、新氏ヨーク大学のゲイリー・マーカス名誉教授とカリフォルニア大学バークレー校のスチュアート・ラッセル教授は全員賛成しており、巨大なAI実験の中止を求める公開書簡に署名した。注目すべきことに、CAIDPの社長兼創設者であるマーク・ローテンバーグ氏も公開書簡に署名した。

公開書簡のアドレス: https://futureoflife.org/open-letter/pause-giant-ai-experiments /

#しかし、ChatGPTを批判してきたYann LeCun氏は公開書簡に署名しないと公言し、公開書簡の内容に同意しないと述べた。 。

オレゴン州立大学名誉教授のトーマス・G・ディーテリッヒ氏はツイッターで、「私も署名していない。この手紙は記入されている」と述べた。 「恐ろしい内容がたくさん含まれている。レトリックと非効果的または存在しない政策。重要な技術的および政策的問題に取り組んでいる。」ルカン氏は「私も同意する」と公に述べた。

Ng Enda 氏はまた、嘆願書に署名した何千人もの人々に公に反対する記事を発表し、「GPT-4 には教育、医療、食品などの分野で多くの新しい用途があり、多くの人々を助けるだろう」と述べた。 「政府が介入しない限り、停止は実施されるだろうし、すべてのチームがLLMの拡張を阻止するのは非現実的だ。さらに、理解していない新興技術の停止を政府に求めるのは、反競争的であり、悪い前例を作り、悪い政策だ」

Tian Yuandong 氏も後に Ng Enda 氏の見解を支持し、「一時停止には署名しないと述べた。そして、このようなことが始まったら、 「この傾向を止めたり逆転させる方法はありません。これは進化の避けられない必然です。私たちは別の視点から先を見据え、LLM をより深く理解し、それに適応してその力を活用し、熱を感じるべきです。」

# Google Brain からの退職を発表したばかりの #Yi Tay (元 Google Brain 上級研究員) は次のように述べています。 6ヶ月間の出場停止処分なら署名します。」

以上がGPT-4は苦情のため禁止を求められた：OpenAIはFTCが発行した人工知能標準のいずれも満たしていないの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。