OpenAI CEO、AIをより適切に規制する方法について議論するために米上院公聴会に出席

最近、Google は生成型人工知能技術の開発を本格的に進めています。同社は年次I/Oカンファレンスで、Googleドキュメントからプログラミング、オンライン検索に至るまで、ほぼすべての製品にAIツールを組み込む計画を発表した。

Google の発表は重要です。何十億人もの人々が、テキストの生成から質問への回答、コードの作成とデバッグに至るまで、さまざまなタスクを完了するのに役立つ強力な最先端の人工知能モデルにアクセスできるようになります。 MIT Technology Review 編集長の Mat Honan が I/O カンファレンスの分析で書いたように、人工知能が今や Google の中核製品であることは明らかです。

(出典: STEPHANIE ARNET/MITTR)

これらの新機能を Google サービスに段階的に導入することが彼らのアプローチですが、遅かれ早かれ問題が表面化するでしょう。同社は、これらの AI モデルに共通する問題のいずれも解決していない: 彼らは依然として何かをでっち上げるのが好きである; 彼らは依然として人間によって設定されたルールを破るように簡単に操作される; 彼らは依然として攻撃に対して脆弱である; そしてほとんど何もない偽情報、詐欺、スパムの生成ツールとして使用されるのを阻止します。

この種の AI ツールは比較的新しいため、ほとんど規制されていません。しかし、これは持続不可能です。 ChatGPT の人気は徐々に落ち着きつつありますが、規制上のニーズは増大し続けており、規制当局は ChatGPT テクノロジーによってもたらされる課題に直面し始めています。

米国の規制当局は、これらの強力な人工知能ツールを規制する方法を見つけようとしています。今週、OpenAI CEOのサム・アルトマンは（前夜に政治家らと「教育的な」夕食会を行った後）米国上院で証言した。この公聴会は、カマラ・ハリス米副大統領がアルファベット、マイクロソフト、オープンAI、アンスロピックの最高経営責任者（CEO）らと会談してから1週間後に行われた。

写真 | OpenAI 創設者サム アルトマン (出典: データ マップ)

ハリス氏は声明の中で、これらの企業には製品の安全性を確保する倫理的および法的責任があると指摘した。多数党院内総務チャック・シューマー氏（民主党、ニューヨーク州）は、人工知能を規制する法案を提出しており、これには規則を施行するための新たな機関の創設が含まれる可能性がある。

スタンフォード大学人間中心人工知能研究所のプライバシーとデータ ポリシーの研究者であるジェニファー・キングは、「誰もが自分の行動を見てもらいたいと考えています。人々はこのすべての発展に反応しています。非常に不安を感じています。」

キング牧師は、新たな AI 法案に対して超党派の支持を得るのは難しいと述べ、「（生成型 AI が）実際の社会レベルの脅威としてどの程度見られるかによって決まります。しかし、彼女はさらに次のように指摘しました」米連邦取引委員会のレナ・カーン委員長は、今月初め、テクノロジー業界が過去に緩すぎた結果として生じた誤りを防ぐために、今すぐ人工知能を規制するよう求める論説を執筆した。人工知能を規制する機関は、独占禁止法や商習慣法などの既存の法的ツールキットを使用する可能性が高くなります。

一方、ヨーロッパでは議員らが人工知能法(AI法)に関して最終合意に達しようとしている。欧州議会の議員らは先週、公共の場での顔認識技術の使用禁止を求める規制草案に署名した。また、生体データがオンラインで収集される場合の予測取り締まりや感情認識、さらには全員の無差別逮捕も禁止する。

議会は、生成人工知能を規制するためのさらなる規制の導入を望んでいますが、欧州連合も監督を強化し、大規模な人工知能モデルの開発に携わる企業にさらなる透明性を要求する予定です。考えられる対策としては、AI が生成したコンテンツにラベルを付けること、モデルのトレーニングで使用された著作権で保護されたデータを概要形式で開示すること、モデルが違法なコンテンツを生成することを防ぐための保護手段を確立することが含まれます。

しかし問題は、EU がこれらの規則を施行するまでにはまだ長い道のりがあるということです。人工知能法の提案された要素の多くは最終版には反映されませんでした。議会、欧州委員会、EU加盟国の間では依然として困難な交渉が続いている。人工知能法が施行されるまでには数年かかるでしょう。

著名なテクノロジー関係者が、逆の方向に、逆の方向に取り組み始めました。マイクロソフトのチーフエコノミスト、マイケル・シュワルツ氏は最近のイベントで、人工知能による「重大な害」が確認されるまで規制する前に待つべきだと述べた。彼は AI を運転免許証に例えました。多くの人は事故で死亡した後に初めて運転免許証を取得します。ある程度の害があった場合にのみ、私たちは問題を真に理解することができます。 「

この発言はあまりにもとんでもないものです。人工知能によって引き起こされる害については、長年にわたって十分に文書化されてきました。偏見と差別があり、フェイクニュースや詐欺を生み出します。他のAIシステムによって引き起こされた無実の逮捕の結果、何千人もの人々が詐欺の冤罪により貧困に追い込まれています。 Google が次のステップを大々的に宣伝し、生成 AI が社会にますます統合されるにつれて、これらの害は指数関数的に増大する可能性があります。

私たちが自問すべき質問は、どの程度の害を許容するのかということです。そして私の答えは、「私たちはもう十分に見てきました」です。

サポート: レン

原文:

https://www.technologyreview.com/2023/05/16/1073167/how-do-you-solve-a-problem-like-out-of-control-ai/

以上がOpenAI CEO、AIをより適切に規制する方法について議論するために米上院公聴会に出席の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。