AI絵画侵害が確定!拡散モデルはあなたの写真を記憶する可能性があり、既存のプライバシー保護方法はすべて無効になります
この記事はAI New Media Qubit(公開アカウントID:QbitAI)の許可を得て転載していますので、転載については出典元にご連絡ください。
AI絵画の侵害が確認されました!
最新の研究では、拡散モデルが トレーニング セット内のサンプルを しっかりと記憶し、生成時に「例に従う」ことが示されています。
つまり、Stable Diffusion によって生成された AI 絵画では、すべてのストロークの背後に侵害事件が存在する可能性があります。 研究と比較の結果、トレーニング サンプルから「盗用」する拡散モデルの能力は GAN の 2 倍であり、拡散モデルが生成されるほど、トレーニング サンプルを記憶する能力も強化されます。
この研究は、Google、DeepMind、カリフォルニア大学バークレー校で構成されるチームによるものです。
論文にはもう 1 つの悪いニュースがあります。つまり、この現象に対応して、
。 このニュースが出るやいなや、ネチズンは爆発的に増え、この論文の著者の関連する Twitter のリツイートは 1,000 件を超えようとしていた。
一部の人は嘆きました。他人の著作権で保護された結果を盗むと言うのは理にかなっていることがわかりました。
訴訟を支持してください!訴えてやる!
誰かが拡散モデルの側に立って次のように話しました。
一部のネチズンはまた、この結果を拡張しました。 ChatGPT について:
既存のプライバシー保護方法はすべて無効です
拡散モデルの原則は、したがって、研究者が実際に研究する必要があるのは、
彼らはトレーニングに使用された画像を覚えていて、最終的に生成中に
を「盗用」したかということです。 トレーニング セット内の画像はインターネットから取得されることが多く、著作権や商標で保護されており、民間の医療用 X 線写真などプライベートなものもあります。 拡散モデルが個々のトレーニング サンプルを
記憶して再生成できるかどうかを解明するために、研究者らはまず「記憶」の新しい定義を提案しました。 一般的に、記憶の定義はテキスト言語モデルに焦点を当てています。トレーニング セットから単語ごとのシーケンスを復元するようにモデルに指示できる場合、それはシーケンスが抽出され記憶されていることを意味します。対照的に、研究チーム
は画像の類似性に基づいて「記憶」を定義しました。 しかし、チームは「記憶」の定義が保守的であることも率直に認めています。たとえば、左側の画像は安定拡散によって生成された「オバマの写真」です。この画像は右側の特定のトレーニング画像とは似ていないため、この画像は記憶に基づくものとしてカウントできません。 生成する。
#しかし、これは、新しい識別可能な画像を生成する Stable Difusion の機能が著作権とプライバシーを侵害しないという意味ではありません。
次に、個人の写真や会社の入札書など 1,000 件を超えるトレーニング サンプルを抽出し、
2 段階のデータ抽出(データ抽出攻撃)
この方法を Stable Diffusion と Imagen に適用すると、チームはトレーニング画像の近似または同一のコピーを 100 個以上抽出しました。 個人を特定できる写真と商標ロゴが含まれており、検査した結果、そのほとんどは著作権で保護されています。
次に、「記憶」がどのように発生するかをより深く理解するために、研究者らはモデルから 100 万回サンプリングし、CIFAR-10 で数百の拡散モデルをトレーニングしました。
目的は、モデルの精度、ハイパーパラメーター、拡張機能、重複排除のどの動作がプライバシーに影響を与えるかを分析することです。
最終的に次の結論に達しました:
まず第一に、拡散モデルは GAN よりも多くのメモリを備えています。
しかし、拡散モデルは評価された画像モデルの中で最悪のプライベートグループでもあり、GANの2倍以上のトレーニングデータを漏洩しています。
また、モデルが大規模であれば、より多くのデータを記憶できる可能性があります。
この結論を受けて、研究者らは 20 億パラメータのテキスト画像拡散モデル Imagen についても研究し、分布外で最高スコアを持つ 500 枚の画像を抽出し、それらをトレーニング データ セットのサンプルとして使用することを試みました。すべてが記憶されていることがわかりました。
対照的に、同じ方法を安定拡散に適用しても、メモリの動作は特定されませんでした。
したがって、Imagen は、コピーされた画像とコピーされていない画像に関して、Stable Difusion よりもプライバシーが劣ります。研究者らは、Imagen が使用するモデルの容量が Stable Difusion よりも大きいため、より多くの画像を記憶していることがその理由であると考えています。
さらに、より優れた生成モデル(FID 値が低くなります)より多くのデータが保存されます 。
言い換えれば、時間が経つにつれて、同じモデルからより多くのプライバシーが漏洩し、より多くの著作権を侵害することになります。
(GAN モデルは FID で並べ替えられ、FID 値が低いほど効果が高くなります)
モデルのトレーニングを通じて、チームは次のことを発見しました。その ユーティリティの増加はプライバシーを低下させます し、単純な防御手段 (重複排除など) だけではメモリ攻撃を完全に解決するのに十分ではありません。
したがって、プライバシー強化テクノロジーは、プライバシーとユーティリティの許容可能なトレードオフを提供しません。
最終的に、チームは拡散モデルをトレーニングする人に 4 つの提案を行いました:
- トレーニング データ セットから重複データを削除し、オーバートレーニングを最小限に抑えることをお勧めします。 # トレーニング モデルのプライバシー リスクを評価するには、データ抽出またはその他の監査手法を使用することをお勧めします。
- より実用的なプライバシー保護テクノロジがある場合は、可能な限りそれらを使用することをお勧めします。 ;
- AI によって生成された画像が表示されないことを願っています プライバシーに関連する部分はユーザーに無料で提供されます。
(ゲッティイメージズ) は著作権侵害の名目でロンドン高等裁判所にStability AIを訴えた。
一度も写真代理店とやり取りしませんでした。 多くの AI 企業は、この行為が米国のフェアユース原則などの法律によって保護されていると信じていますが、ほとんどの著作権所有者はこの声明に同意しておらず、この行為が自社の権利を侵害していると考えています。
Stability AI は以前、次のバージョンでは著作権所有者 がトレーニング ギャラリー内の自分の著作権で保護された作品を削除できるとの声明を発表しましたが、現段階では、まだ不満を持っている人もいます。 1月中旬、3人のアーティストがStability AIとMidjourneyに対して訴訟を起こした。
法律専門家も統一見解を得るためにさまざまな意見を持っていますが、著作権保護の問題については裁判所が判決を下す必要があるという点では全員一致しています。 ゲッティ イメージズ CEO クレイグ ピーターズ氏は、同社が Stability AI に「間もなく英国で訴訟されるだろう」という通知を送ったと述べました。同社は次のようにも述べています:
当社は侵害によって生じる損失については気にしておらず、AI アート ツールの開発を中止するつもりはありません。
Stability AI を法廷に持ち込むことは、ゲッティ家の利益にはなりません。
訴訟を選択することには、より深い長期的な目的があり、裁判所が新しい法律を制定して現状を規制することを願っています。
以上がAI絵画侵害が確定!拡散モデルはあなたの写真を記憶する可能性があり、既存のプライバシー保護方法はすべて無効になりますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

Video Face Swap
完全無料の AI 顔交換ツールを使用して、あらゆるビデオの顔を簡単に交換できます。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











0.この記事は何をするのですか?私たちは、多用途かつ高速な最先端の生成単眼深度推定モデルである DepthFM を提案します。従来の深度推定タスクに加えて、DepthFM は深度修復などの下流タスクでも最先端の機能を実証します。 DepthFM は効率的で、いくつかの推論ステップ内で深度マップを合成できます。この作品について一緒に読みましょう〜 1. 論文情報タイトル: DepthFM: FastMonocularDepthEstimationwithFlowMatching 著者: MingGui、JohannesS.Fischer、UlrichPrestel、PingchuanMa、Dmytr

従来のコンピューティングを超える能力を備えているだけでなく、より低コストでより効率的なパフォーマンスを実現する人工知能モデルを想像してみてください。これは SF ではありません。世界で最も強力なオープンソース MoE モデルである DeepSeek-V2[1] が登場しました。 DeepSeek-V2 は、経済的なトレーニングと効率的な推論の特徴を備えた強力な専門家混合 (MoE) 言語モデルです。これは 236B のパラメータで構成されており、そのうち 21B は各マーカーをアクティブにするために使用されます。 DeepSeek67B と比較して、DeepSeek-V2 はパフォーマンスが優れていると同時に、トレーニング コストを 42.5% 節約し、KV キャッシュを 93.3% 削減し、最大生成スループットを 5.76 倍に高めます。 DeepSeek は一般的な人工知能を研究する会社です

AI は確かに数学を変えつつあります。最近、この問題に細心の注意を払っている陶哲軒氏が『米国数学協会会報』(米国数学協会会報)の最新号を送ってくれた。 「機械は数学を変えるのか?」というテーマを中心に、多くの数学者が意見を述べ、そのプロセス全体は火花に満ち、ハードコアで刺激的でした。著者には、フィールズ賞受賞者のアクシャイ・ベンカテシュ氏、中国の数学者鄭楽軍氏、ニューヨーク大学のコンピューター科学者アーネスト・デイビス氏、その他業界で著名な学者を含む強力な顔ぶれが揃っている。 AI の世界は劇的に変化しています。これらの記事の多くは 1 年前に投稿されたものです。

Boston Dynamics Atlas は正式に電動ロボットの時代に突入します!昨日、油圧式アトラスが歴史の舞台から「涙ながらに」撤退したばかりですが、今日、ボストン・ダイナミクスは電動式アトラスが稼働することを発表しました。ボストン・ダイナミクス社は商用人型ロボットの分野でテスラ社と競争する決意を持っているようだ。新しいビデオが公開されてから、わずか 10 時間ですでに 100 万人以上が視聴しました。古い人が去り、新しい役割が現れるのは歴史的な必然です。今年が人型ロボットの爆発的な年であることは間違いありません。ネットユーザーは「ロボットの進歩により、今年の開会式は人間のように見え、人間よりもはるかに自由度が高い。しかし、これは本当にホラー映画ではないのか?」とコメントした。ビデオの冒頭では、アトラスは仰向けに見えるように地面に静かに横たわっています。次に続くのは驚くべきことです

今月初め、MIT やその他の機関の研究者らは、MLP に代わる非常に有望な代替案である KAN を提案しました。 KAN は、精度と解釈可能性の点で MLP よりも優れています。また、非常に少数のパラメーターを使用して、多数のパラメーターを使用して実行する MLP よりも優れたパフォーマンスを発揮できます。たとえば、著者らは、KAN を使用して、より小規模なネットワークと高度な自動化で DeepMind の結果を再現したと述べています。具体的には、DeepMind の MLP には約 300,000 個のパラメーターがありますが、KAN には約 200 個のパラメーターしかありません。 KAN は、MLP が普遍近似定理に基づいているのに対し、KAN はコルモゴロフ-アーノルド表現定理に基づいているのと同様に、強力な数学的基礎を持っています。以下の図に示すように、KAN は

テスラのロボット「オプティマス」の最新映像が公開され、すでに工場内で稼働可能となっている。通常の速度では、バッテリー(テスラの4680バッテリー)を次のように分類します:公式は、20倍の速度でどのように見えるかも公開しました - 小さな「ワークステーション」上で、ピッキング、ピッキング、ピッキング:今回は、それがリリースされたハイライトの1つビデオの内容は、オプティマスが工場内でこの作業を完全に自律的に行い、プロセス全体を通じて人間の介入なしに完了するというものです。そして、オプティマスの観点から見ると、自動エラー修正に重点を置いて、曲がったバッテリーを拾い上げたり配置したりすることもできます。オプティマスのハンドについては、NVIDIA の科学者ジム ファン氏が高く評価しました。オプティマスのハンドは、世界の 5 本指ロボットの 1 つです。最も器用。その手は触覚だけではありません

目標検出は自動運転システムにおいて比較的成熟した問題であり、その中でも歩行者検出は最も初期に導入されたアルゴリズムの 1 つです。ほとんどの論文では非常に包括的な研究が行われています。ただし、サラウンドビューに魚眼カメラを使用した距離認識については、あまり研究されていません。放射状の歪みが大きいため、標準のバウンディング ボックス表現を魚眼カメラに実装するのは困難です。上記の説明を軽減するために、拡張バウンディング ボックス、楕円、および一般的な多角形の設計を極/角度表現に探索し、これらの表現を分析するためのインスタンス セグメンテーション mIOU メトリックを定義します。提案された多角形モデルの FisheyeDetNet は、他のモデルよりも優れたパフォーマンスを示し、同時に自動運転用の Valeo 魚眼カメラ データセットで 49.5% の mAP を達成しました。

世界は狂ったように大きなモデルを構築していますが、インターネット上のデータだけではまったく不十分です。このトレーニング モデルは「ハンガー ゲーム」のようであり、世界中の AI 研究者は、データを貪欲に食べる人たちにどのように餌を与えるかを心配しています。この問題は、マルチモーダル タスクで特に顕著です。何もできなかった当時、中国人民大学学部のスタートアップチームは、独自の新しいモデルを使用して、中国で初めて「モデル生成データフィード自体」を実現しました。さらに、これは理解側と生成側の 2 つの側面からのアプローチであり、両方の側で高品質のマルチモーダルな新しいデータを生成し、モデル自体にデータのフィードバックを提供できます。モデルとは何ですか? Awaker 1.0 は、中関村フォーラムに登場したばかりの大型マルチモーダル モデルです。チームは誰ですか?ソフォンエンジン。人民大学ヒルハウス人工知能大学院の博士課程学生、ガオ・イージャオ氏によって設立されました。
