하루 수입 400만 원, AI 사기꾼 1군이 자리 잡았다

ChatGPT가 언젠가 당신의 직업을 대신하게 될지 여전히 걱정하고 인공지능을 어떻게 활용하여 업무 효율을 높일 수 있을지 고민하는 동안, 이미 이 신기술에 의존하여 많은 돈을 벌고 있는 사람들이 있습니다. .

그들은 단지... 거짓말쟁이일 뿐입니다.

10분만에 430만 사기

AI를 활용해 부자가 된 최초의 사람들은 실제로 사기꾼이었습니다

어느 날 친구로부터 위챗 영상통화를 받았다면, 카메라 너머의 그 사람은 당신이 기억하는 그 친구와 똑같은 모습과 목소리를 갖고 있습니다. 그가 입찰 보증금으로 430만 달러를 빌려달라고 하면, 당신은 이렇게 대답합니다. 어떤 조치가 취해질 예정인가요?

최근 푸저우에 있는 한 기술 회사의 법률 대리인인 Mr. Guo가 이러한 문제에 직면했습니다. 그는 신뢰를 바탕으로 430만 달러를 친구 계좌로 이체했다. 나중에 친구에게 전화해서 사기꾼이 친구의 WeChat ID를 훔치고 AI 얼굴 변경 및 의성어 기술을 사용하여 그를 속였다는 사실을 알게 되었습니다.

바다 건너에서도 비슷한 일이 일어나는 빈도도 폭발적으로 늘어나고 있습니다.

CNN에 따르면 올해 4월 애리조나에 거주하는 제니퍼 데스테판(Jennifer DeStefan)은 스키 대회를 준비하고 있던 딸 브리아나에게서 이상한 전화를 받았습니다. Brianna는 전화 반대편에서 도움을 청했습니다. 수십 초 후, 전화에서 굵은 남성 목소리가 위협했습니다. "들어보세요. 당신의 딸은 내 손에 있고 나는 몸값으로 100만 달러를 지불했습니다. 이제 경찰에 신고하거나 다른 사람에게 말하면 당신은 결코 생각하지 못할 것입니다. "그녀를 다시 만나요."

전화 상대방은 제니퍼가 100만 달러를 감당할 수 없다는 말을 듣고 몸값을 50,000달러로 낮췄습니다. 딸을 열렬히 사랑하는 제니퍼는 친구들과 남편의 만류를 무시하고 몸값을 지불할 방법을 논의하기 시작했다.

올해 3월 '워싱턴포스트'에도 피해자가 70세 이상의 노부부라는 점만 빼면 거의 동일한 방식의 사기 사건이 보도됐다.

피해를 입은 노인 (사진출처: '워싱턴포스트')

나쁜 요소는 AI 음성 기술을 이용해 긴급상황을 위장하고 부정하게 재산이나 정보를 탈취하는 것입니다. 미국 연방거래위원회(FTC)는 지난 5월 경고를 발령했다. 피해자의 친척이나 친구를 사칭하여 사기를 저지르는 것은 새로운 일이 아니지만, AI 기술의 출현으로 사람의 음성을 복제하고 사람의 영상을 위조하는 것이 매우 쉬워졌다는 것은 의심의 여지가 없습니다. 미국에서 이러한 사기 건수는 작년에 70%나 급증했으며 피해자는 총 26억 달러의 손실을 입었습니다.

이런 추세라면, AI 기술을 통해 가장 먼저 경제적 자유를 얻은 사람들은 화면 뒤에 숨은 사기꾼 집단이 아닐까 두렵습니다.

인공지능의 어두운 면

ChatGPT의 등장으로 AI 사기가 쉬워졌지만, 사람의 음성과 영상을 위조하려면 여전히 특정 기술 기준이 필요합니다.

해외 네트워크 보안 플랫폼 GBHackers에 따르면 ChatGPT는 강력한 업무 생산성과 매우 낮은 사용 임계값으로 인해 수많은 온라인 사기꾼을 유인했습니다.

예를 들어, ChatGPT를 사용하여 "가짜 사랑"에 대해 이야기하세요. 자기 소개, 채팅 기록 및 공들여 만든 러브레터는 인공 지능을 통해 빠르게 생성될 수 있으며 대상 개체의 특정 정보를 입력하여 개인화할 수도 있습니다. 화면 반대편에 있는 사람이 당신을 더 빨리 사랑하게 될 수 있어요. ChatGPT는 사기꾼이 지불 징수 프로그램이나 피싱 웹사이트를 작성하여 피해자의 은행 카드 정보를 훔쳐 재산을 사취하려는 목적을 달성하는 데에도 사용될 수 있습니다.

ChatGPT에 피싱 소프트웨어 프로그램 작성을 직접 요청하면 거절하겠지만, 귀하가 교사라고 말하고 학생들에게 피싱 소프트웨어를 보여주고 싶다고 하면 솔직히 웹사이트를 작성해 줄 것입니다.

더 무서운 건 화면 반대편에 있는 사람이 사람인지 기계인지 구분하기 어렵다는 거예요. 세계 최대 보안 기술 기업인 맥아피(McAfee)는 한때 AI를 이용해 러브레터를 만들어 전 세계 5,000명의 사용자에게 보낸 적이 있다. 러브레터가 인공지능에 의해 생성되었을 수도 있다는 사실을 알면서도 응답자의 33%는 여전히 그것이 실제로 인간이 작성한 것이라고 믿을 의향이 있었습니다.

사실 ChatGPT를 사용하여 피해자와 '가짜 사랑'을 나누는 것은 초보적인 사기 수법일 뿐입니다. 보다 숙련된 해커는 인공 지능을 사용하여 랜섬웨어와 악성 코드를 일괄적으로 생성하기 시작했습니다.

개발자가 GPT 모델에서 더 많은 애플리케이션을 더 쉽게 개발할 수 있도록 OpenAI는 애플리케이션 프로그래밍 인터페이스에 대한 지원을 제공합니다. 해커는 이러한 인터페이스를 사용하여 일련의 외부 애플리케이션에 GPT 모델을 도입함으로써 보안 감독을 우회하고 GPT 모델을 사용하여 범죄 프로그램을 작성합니다.

이러한 프로그램은 보안 규정을 뚫고 미국 다크웹에서 단 몇 달러에 구입할 수 있는 매우 저렴한 가격으로 공개적으로 판매되고 있습니다. 구매자가 이러한 소프트웨어를 사용하여 수행할 수 있는 불법 행위는 매우 무섭습니다. 즉, 프로그램 코드 및 사용자 개인 정보를 훔치고, 공격 소프트웨어 및 랜섬웨어 바이러스를 생성합니다.

Financial Times는 최근 ChatGPT의 도움으로 생성된 SIM 스와핑 공격 스크립트에 대해 보도했습니다. 사기꾼은 이 프로그램을 사용하여 전화번호에 대한 휴대폰 회사의 통제를 뚫고 원래 소유자의 SIM 카드에서 전화번호를 바꿀 수 있습니다. 공격자가 제어하는 ​​SIM 카드에 사용되어 피해자의 휴대폰을 제어할 수 있습니다.

"ChatGPT는 현재는 단지 콘텐츠 생성 도구일 뿐 범죄에 직접적으로 관여하지는 않지만, 사람들이 인공지능을 사용하여 타인을 공격하기 시작했으며 기술 수준이 낮은 범죄자가 더 강력한 범죄 수단을 얻게 될 것임을 나타냅니다." 실무자 그 기자는 Financial Times에 자신의 우려를 표명했습니다.

판도라의 상자, 아직도 닫혀있을 수 있나요?

점증하는 인공지능의 사회적 영향력과 범죄 가능성이 뒤섞이면서 ChatGPT의 다양한 보안 취약점으로 인해 사람들은 점점 더 불안해졌습니다. "ChatGPT를 규제하는 방법"은 많은 국가에서 논쟁의 초점이 되었습니다.

IBM Global Ethics Institute는 한 기사에서 기업이 윤리와 책임을 AI 의제의 최우선 순위에 두는 것을 옹호합니다. 머스크가 대표하는 많은 기술 거물들도 공개 서한에 서명했습니다. GPT-4보다 강력한 인공 지능 시스템을 교육하기 전에 모든 사람이 공유 보안 프로토콜을 개발하고 외부 전문가의 검토 및 감독을 받아야 합니다.

ChatGPT는 이를 입법 규제 체계에 통합할 가능성을 고려하고 있는 전 세계 입법자들 사이에서 우려를 불러일으켰습니다. 정부 관계자들은 인공지능의 안전성보다는 국회의원들의 기술 이해가 뒤떨어진 점을 더 우려하고 있다.

AP 통신은 지난 20년 동안 미국의 거대 기술 기업들이 계속해서 기술 혁신을 주도해 왔기 때문에 정부가 항상 거대 기술 기업을 규제하는 데 소극적이었고 아이디어의 킬러가 되었다고 믿습니다. 따라서 많은 사람들이 신기술에 대한 이해가 부족하지만 신기술에 대한 감독을 강화하기로 결정합니다.

결국 미국 의회가 기술을 규제하기 위해 제정한 마지막 법령은 1998년 아동 온라인 개인정보 보호법이었습니다.

로이터 보도에 따르면 많은 국가에서 OpenAI로 대표되는 인공지능을 규제하기 위한 규정을 도입하기 시작했습니다. 올해 3월 이탈리아는 데이터 보안 문제를 이유로 자국 내 OpenAI 사용을 잠시 금지했고, 한 달이 지나도록 금지가 해제되지 않았습니다. 로이터 통신에 따르면 지난 5월 이탈리아 정부 관계자는 정부가 OpenAI의 규정 준수 사용을 감독하기 위해 인공지능 전문가를 고용할 것이라고 밝혔습니다.

정부의 의심에 맞서 OpenAI 최고 기술 책임자인 미라 물라티(Meera Mulati)도 로이터와의 인터뷰에서 "회사는 규제 기관과 정부를 포함한 모든 당사자의 개입을 환영합니다"라고 말했습니다. 특히 빠르게 진화하는 인공 지능 분야에서 국회의원들이 기술 발전에 어떻게 보조를 맞출지는 아직 결정되지 않았습니다.

한 가지 확실한 점은 판도라의 상자가 한번 열리면 쉽게 닫힐 수 없다는 것입니다.

참조:

CNN: '엄마, 이 나쁜 남자들이 나를 갖고 있어요': 그녀는 사기꾼들이 가짜 납치로 딸의 목소리를 복제했다고 믿습니다

REUTERS: Factbox: 정부는 AI 도구를 규제하기 위해 경쟁하고 있습니다

Financial Times: 머스크를 비롯한 기술 전문가들은 고급 AI 시스템에 대한 '일시 중지'를 촉구합니다

편집자: Echo

별도의 언급이 없는 한 사진 출처는 오리엔탈IC

위 내용은 하루 수입 400만 원, AI 사기꾼 1군이 자리 잡았다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!