인공지능(AI)은 사회의 본질을 바꿀 수 있는 잠재력을 가지고 있습니다. 인공지능 도구는 우리에게 많은 기대를 안겨주었지만, 우리도 여러 면에서 경계해야 할 필요가 있습니다. 예를 들어, 사이버 범죄자와 기타 위협 행위자는 인공 지능을 무기화하고 있으며, AI 이미지 생성기조차도 남용에 면역되지 않습니다.
AI 이미지 생성기란 무엇인가요? 어떻게 작동하나요? AI 이미지 생성기를 사용해 본 적이 있다면 그것이 무엇에 관한 것인지 매우 분명합니다. 한번도 사용해본 적이 없더라도 소셜 미디어 등에서 AI가 생성한 이미지를 접했을 가능성이 높습니다. 오늘날 널리 사용되는 소프트웨어는 매우 간단하게 작동합니다. 사용자가 텍스트를 입력하면 인공 지능이 해당 텍스트를 기반으로 이미지를 생성합니다.
최근 몇 년 동안 인공 지능 기술이 발전함에 따라 대부분의 텍스트-이미지 생성기는 확산 모델을 채택합니다. 이는 오랫동안 많은 양의 텍스트와 이미지에 대해 "훈련"된다는 의미입니다. 왜 작품이 그토록 인상적이고 놀랍도록 사실적인지에 대한 주된 이유입니다.
이 AI 도구를 더욱 인상적으로 만드는 것은 기존 이미지를 수정하거나 수천 장의 이미지를 하나로 병합할 뿐만 아니라 처음부터 새로운 원본 이미지를 생성한다는 것입니다. 더 많은 사람들이 이러한 텍스트-이미지 생성기를 사용할수록 더 많은 정보를 얻고 더 나은 창작물을 얻을 수 있습니다.
WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor 및 Craiyon 등 이미 유명한 AI 이미지 생성기가 많이 있습니다. Google을 포함한 거대 기술 기업들이 자체 제품을 출시하고 있으므로 앞으로 더 많은 가치가 나올 것이라고 추측할 수 있습니다.
거의 모든 기술과 마찬가지로 AI 이미지 생성기도 악의적인 행위자에 의해 악용될 수 있습니다. 실제로 그들은 온갖 사악한 목적으로 사용되었습니다. 하지만 범죄자는 AI 이미지 생성기의 도움으로 정확히 어떤 유형의 사기를 저지를 수 있을까요?
1. 사회 공학
AI 이미지 생성기를 사용하여 할 수 있는 한 가지 확실한 작업은 예를 들어 가짜 소셜 미디어 프로필을 만드는 것입니다. 이러한 프로그램 중 일부는 실제 사람의 실제 사진처럼 보이는 믿을 수 없을 만큼 사실적인 이미지를 만들 수 있으며, 사기꾼은 이러한 가짜 소셜 미디어 프로필을 피싱 목적으로 사용할 수 있습니다.
실제 사람의 사진과 달리 AI가 생성한 사진은 역이미지 검색으로 발견할 수 없습니다. 사이버 범죄자는 대상을 속이기 위해 제한된 수의 사진을 사용할 필요가 없습니다. 처음부터 명령을 내리세요. 설득력 있는 온라인 신원입니다.
그러나 실제 생활에서는 위협 행위자가 AI 이미지 생성기를 사용하여 사람들을 속일 수 있습니다. 2022년 4월, Tech Talk 블로거 Ben Dickinson은 법률 회사로부터 자신이 허가 없이 이미지를 사용했다고 주장하는 이메일을 받았습니다. 변호사는 DMCA 저작권 침해 통지를 이메일로 보내 Dickinson에게 고객에게 다시 연결하거나 이미지를 제거해야 한다고 말했습니다.
디킨슨은 구글에서 법률사무소를 검색해서 공식 홈페이지를 찾았습니다. 모든 것이 완전히 합법적인 것처럼 보입니다. 웹 사이트에는 약력과 자격 증명을 포함하여 변호사 18명의 사진도 있습니다. 그러나 이 중 어느 것도 사실이 아닙니다. 사진은 모두 인공 지능에 의해 생성되었으며 의심하지 않는 블로거로부터 백링크를 강탈하려는 누군가가 저작권 침해 혐의 통지를 보낸 것입니다.
2. 자선 사기
2023년 2월 터키와 시리아에서 엄청난 지진이 발생했을 때 전 세계 수백만 명의 사람들이 옷, 음식, 돈을 기부하여 피해자들과 연대했습니다.
BBC 보고서에 따르면 사기꾼들은 인공 지능을 이용해 사실적인 이미지를 만들고 기부를 요청하는 등 이를 악용하고 있습니다. 한 사기꾼이 TikTok Live에서 AI가 생성한 폐허 이미지를 선보이며 시청자에게 기부를 요청했습니다. 또 다른 사람은 잔해에서 부상당한 어린이를 구출하는 그리스 소방관의 AI 생성 이미지를 게시하고 추종자들에게 기부를 요청했습니다.
미래에 범죄자들이 인공 지능의 도움을 받아 어떤 유형의 자선 사기를 펼칠지는 상상할 수 없지만, 한 가지 확실한 점은 소프트웨어를 남용하는 능력이 향상될 것이라는 점입니다.
3. 딥페이크 및 허위 정보
정부, 활동가 그룹 및 싱크 탱크는 오랫동안 딥페이크 AI 이미지 생성기의 위험성에 대해 경고해 왔으며, 이는 허위 정보 요원이 봇 이미지의 도움을 받아 허위 정보를 생성하고 홍보하는 것을 막을 수 없기 때문입니다. 소셜 미디어.
NPR에 따르면 2022년 3월, 우크라이나 대통령이 우크라이나 국민에게 항복하라고 말하는 모습을 묘사한 가짜 동영상이 온라인에 유포되었습니다. 이는 하나의 예일 뿐이지만 가능성은 거의 무한하며, 위협 행위자가 인공 지능의 도움을 받아 누군가의 평판을 훼손하거나 허위 이야기를 조장하거나 가짜 뉴스를 퍼뜨릴 수 있는 방법은 셀 수 없이 많습니다.
4. 광고 사기
Trend Micro 연구원들은 2022년에 사기꾼들이 AI 생성 콘텐츠를 사용하여 오해의 소지가 있는 광고를 만들고 수상한 제품을 홍보하고 있다는 사실을 발견했습니다. 인기 연예인들이 특정 제품을 사용하도록 제안하는 이미지를 만들고, 그 이미지를 바탕으로 광고 캠페인을 진행합니다.
예를 들어, "재정 조언 기회"에 대한 광고 중 하나에는 Tesla의 창립자이자 CEO가 등장합니다. 물론 머스크는 문제의 제품을 결코 보증한 적이 없지만 AI가 생성한 영상은 아마도 의심하지 않는 시청자가 광고를 클릭하도록 유도하기 위해 이렇게 보이게 만들었습니다.
앞으로 정부 규제 기관과 사이버 보안 전문가는 AI 기반 사이버 범죄의 새로운 위협을 해결하기 위해 협력해야 할 수도 있습니다. 하지만 혁신을 억누르고 디지털 자유를 제한하지 않으면서 어떻게 AI를 규제하고 일반 사람들을 보호할 수 있을까요? 이 문제는 앞으로 몇 년 안에 더욱 두드러질 것입니다.
답을 얻을 때까지 자신을 보호하기 위해 할 수 있는 일을 하십시오. 온라인에서 보는 모든 것을 면밀히 조사하고, 의심스러운 웹 사이트를 피하고, 보안 소프트웨어를 사용하고, 장치를 최신 상태로 유지하고, 인공 지능을 최대한 활용하는 방법을 배우십시오.
원제: AI Image Generators: An Emerging Cybersecurity Threat
원작자: DAMIR MUJEZINOVIC
위 내용은 AI 이미지 생성기: 새로운 사이버 보안 위협의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
