AI 圖片產生器：新興的網路安全威脅-人工智慧-PHP中文網

AI 圖片產生器：新興的網路安全威脅

WBOY

發布： 2023-04-11 19:27:14

轉載

1357 人瀏覽過

人工智慧（AI）有可能改變社會的本質。雖然人工智慧工具為我們帶來了許多的期待，但同時也需要在許多方面提高警覺。例如，網路犯罪分子和其他威脅行為者將人工智慧武器化，即使是AI圖像生成器也不能倖免於濫用。

什麼是 AI 影像產生器？它們是如何運作的？如果您曾經使用過AI圖像生成器，那麼非常清楚它們的全部內容。即使從未使用過，也很可能在社交媒體和其他地方遇到過人工智慧生成的圖像。今天流行的軟體工作原理非常簡單：用戶輸入文本，人工智慧根據該文本生成圖像。

AI 圖片產生器：新興的網路安全威脅

近年來，隨著人工智慧技術的發展，大多數文字到圖像生成器採用擴散模型，這意味著他們在大量的文字和圖像上接受了長時間的“訓練”，這是他們作品如此令人印象深刻和令人驚嘆的逼真的主要原因。

讓這些人工智慧工具更令人印象深刻的是，它們不僅修改現有圖像或將數千張圖像合併為一個，而且還從頭開始創建新的原始圖像。使用這些文字到圖像生成器的人越多，他們獲得的資訊就越多，他們的創作就越好。

目前已經有許多著名的AI影像產生器：WOMBO、DALL-E、Stable Diffusion、Midjourney、DeepAI、Fotor和Craiyon。科技巨頭——包括Google正在發布自己的，所以我們只能推測未來會帶來更多的價值。

威脅行為者將 AI 影像產生器武器化的 4 種方式

就像幾乎所有技術一樣，人工智慧影像產生器也可能被惡意行為者濫用。實際上，它們已經被用於各種邪惡的目的。但是，犯罪分子究竟可以在AI影像產生器的幫助下進行哪種類型的詐騙？

1、社會工程

威脅者能夠使用AI圖像生成器做的一件明顯的事情是參與社會工程；例如，創建虛假的社交媒體資料。其中一些程式可以創建令人難以置信的逼真圖像，看起來就像真人的真實照片，詐騙者可以使用這些虛假的社交媒體資料進行網路釣魚。

與真人的照片不同，人工智慧生成的照片無法透過反向圖像搜尋發現，網路犯罪分子不必使用有限數量的照片來欺騙目標——使用AI，他們可以產生任意數量的照片，從頭開始建立令人信服的線上身分。

但是，在現實生活中，威脅者可以使用AI圖像產生器來欺騙人們。 2022年4月，技術講座部落客本·迪金森（Ben Dickinson）收到了一封來自律師事務所的電子郵件，聲稱他在未經許可的情況下使用了圖像。律師們透過電子郵件發送了一份DMCA版權侵權通知，告訴迪金森他需要連結回他們的客戶，或刪除圖像。

迪金森在谷歌上搜尋了這家律師事務所，找到了官方網站。這一切似乎都是完全合法的；網站甚至有18名律師的照片，包括他們的傳記和證書。但這一切都不是真的。這些照片都是由人工智慧產生的，所謂的版權侵權通知是由一個希望從毫無戒心的部落客那裡勒索反向連結的人發出的。

2、慈善詐騙

2023 年2 月土耳其和敘利亞發生毀滅性地震時，全世界數百萬人透過捐贈衣服、食物和金錢來表達對受害者的聲援。

根據一份英國廣播公司的報告，詐騙者利用這一點，使用人工智慧創建逼真的圖像並募集捐款。一名騙子在 TikTok Live 上展示了人工智慧生成的廢墟圖像，要求他們的觀眾捐款。另一個人發布了一張人工智慧生成的圖像，其中一名希臘消防員從廢墟中救出一名受傷的孩子，並要求他的追隨者進行捐款。

人們只能想像犯罪分子將來會在人工智慧的幫助下運行哪種類型的慈善詐騙，但可以肯定的是，他們只會更好地濫用該軟體。

3、深度偽造和虛假資訊

政府、活動團體和智庫長期以來一直警告深度偽造的危險AI 圖像生成器，這是因為什麼也不能阻止虛假信息代理人在機器人的幫助下創建虛假圖像並在社交媒體上推廣它。

根據美國國家公共廣播電台的消息，2022 年 3 月，當時一段描繪烏克蘭總統告訴烏克蘭人投降的假影片在網路上流傳。雖然這只是一個例子，但可能性幾乎是無窮無盡的，而且威脅者可以透過無數種方式損害某人的聲譽，宣傳虛假敘述或在人工智慧的幫助下傳播假新聞。

4、廣告詐欺

趨勢科技研究人員在 2022 年發現，詐騙者正在利用人工智慧產生的內容製作誤導性廣告，並推廣陰暗的產品。他們創建了建議流行名人使用某些產品的圖片，並根據這些圖片進行廣告活動。

例如，一則「財務諮詢機會」廣告以特斯拉創辦人兼執行長為主角。當然，馬斯克從未認可過有問題的產品，但人工智慧生成的鏡頭讓它看起來像這樣，大概是引誘毫無戒心的觀眾點擊廣告。