MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯

隨著基於 AI 的深度偽造技術不斷進步，人們越來越難以透過肉眼判斷「哪些內容是 AI 偽造的」。為了防止圖片被爬蟲修改後誤讀，麻省理工學院最近公佈了一項名為Photoguard 的技術，它能夠處理圖片使其難以被AI 識別和篡改

據悉，這項「PhotoGuard」技術主要是透過對影像進行微小的修改，來防止AI 識別出影像內容。此技術提供了兩種阻止圖片被AI 修改的方案，一種是「編碼器」 法，透過修改影像的像素來幹擾演算法模型對影像的理解能力；另一種是「擴散」 法讓AI 以為圖片甲是圖片乙，從而產生錯誤的圖像。

不過IT之家經過查詢得知，該技術實際上應用空間有限，研究人員警告，PhotoGuard 技術更多適用於反爬蟲場景，技術本身也有一定局限性，攻擊者只需要裁剪或翻轉經過處理的圖片，即可破解該技術。

研究人員指出，要解決AI造假問題，除了技術手段外，還需要模型開發者、社群媒體平台和相關部門共同合作，以提供一個全面的「反AI造假」解決方案

以上是MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯的詳細內容。更多資訊請關注PHP中文網其他相關文章！