인터넷에서 인기 있는 ChatGPT 'Collapse': 인간이 피싱 이메일 코드를 작성할 수 있도록 도와주는 월드컵 테마입니다!

​빅데이터 다이제스트 제작

ChatGPT는 즐거웠지만 결국 문제가 발생했습니다.

거의 전능한 언어 기반 AI인 ChatGPT는 다양한 질문에 답하고, 기사 작성을 돕고, 코드 작성에도 도움을 줄 수 있습니다.

잠깐, 코드를 작성한다고?

누군가 ChatGPT가 다른 사람을 공격하는 악성 코드를 작성하도록 하게 된다면 어떻게 될까요?

최근 보안 연구원이자 Picus Security의 공동 창립자인 Dr. Suleyman Ozarslan은 ChatGPT를 사용하여 실제로 월드컵을 주제로 한 피싱 코드를 만드는 데 성공했습니다.

한번 살펴보겠습니다.

ChatGPT를 사용하여 랜섬웨어 및 피싱 이메일을 만드는 방법

"ChatGPT가 믿을만한 피싱 캠페인을 만들 수 있는지 확인하기 위해 간단한 연습으로 시작했고 실제로 성공했습니다. 월드컵 테마를 작성했다는 프롬프트를 입력했습니다. 시뮬레이션된 피싱을 위한 이메일을 사용하여 몇 초 만에 완벽한 영어 이메일을 만들었습니다."라고 Suleyman Ozarslan은 말했습니다.

Ozarslan은 공격을 시뮬레이션하는 보안 연구원이라고 ChatGPT에 알려줬습니다. 그들은 피싱 공격을 시뮬레이션하기 위한 피싱 공격을 시뮬레이션하는 도구를 개발하고 싶어합니다.

그래서 ChatGPT는 실제로 한 문단을 썼습니다.

ChatGPT는 "피싱 공격은 악의적인 목적으로 사용될 수 있으며 개인과 조직에 해를 끼칠 수 있다"고 인식하면서도 여전히 이메일을 생성했습니다.

이 연습을 마친 후 Ozarslan은 ChatGPT에게 MacBook에서 Microsoft Office 파일을 찾아 MacBook에서 암호화하기 전에 HTTPS를 통해 웹 서버로 보내는 Swift 코드를 작성해 달라고 요청했습니다.

순조롭게 진행되었으며 ChatGPT의 솔루션은 경고나 프롬프트 없이 샘플 코드를 생성했습니다.

Ozarslan의 연구 사례는 사이버 범죄자가 악의적인 의도를 모호하게 하기 위해 자신을 연구원으로 위장하는 등 OpenAI의 보호를 쉽게 우회할 수 있음을 보여줍니다.

사이버 범죄의 증가는 균형을 깨뜨립니다.

위의 예에서 볼 수 있듯이 사이버 보안 관점에서 OpenAI의 생성으로 인한 핵심 과제는 기술적 전문성에 관계없이 누구나 필요에 따라 맬웨어 및 랜섬웨어를 생성하는 코드를 모두 생성할 수 있습니다.

ChatGPT는 보안 팀(예: AI 검사 이메일)에 긍정적인 이점을 제공하는 동시에 사이버 범죄자의 진입 장벽을 낮추어 잠재적으로 위협 환경의 복잡성을 줄이기보다는 정교화를 가속화합니다.

예를 들어, 사이버 범죄자는 인공 지능을 활용하여 실제 피싱 위협의 수를 늘릴 수 있습니다. 이는 이미 보안 팀을 압도할 뿐만 아니라 단 한 번의 성공적인 공격만으로도 수백만 달러의 데이터 유출이 발생합니다.

IRONSCALES 이메일 보안 공급업체 Lomy Ovadia의 R&D CVP는 다음과 같이 말했습니다. "네트워크 보안과 관련하여 ChatGPT는 표적보다 공격자에게 훨씬 더 많은 것을 제공합니다."

비즈니스 전자 제품의 경우 Ovadia는 이것이 특히 이메일에 해당된다고 말했습니다. 동료, 회사 VIP, 공급업체, 심지어 고객까지 사칭하기 위해 사기성 콘텐츠를 사용하는 공격(BEC)입니다."

Ovadia는 CISO와 보안 리더가 정책 기반 보안에 의존한다면 그렇게 믿습니다. AI/GPT-3 생성 콘텐츠는 이러한 AI 모델이 고급 자연어 처리(NLP)를 사용하여 실제 사례와 구별하기 거의 불가능한 사기 이메일을 생성하기 때문에 더 이상 사용되지 않게 됩니다.

예를 들어, 올해 초 싱가포르 정부 기술 기관의 보안 연구원들은 200개의 피싱 이메일을 생성하고 클릭률을 딥 러닝 모델 GPT-3으로 생성된 이메일과 비교한 결과 더 많은 사용자가 AI가 생성한 이메일을 클릭한 것으로 나타났습니다. 인간 사용자보다 피싱 이메일을 더 많이 사용합니다.

좋은 소식이 무엇인가요?

생성 AI는 보안 팀에 새로운 위협을 가져오지만 몇 가지 긍정적인 사용 사례도 제공합니다. 예를 들어 분석가는 이 도구를 사용하여 배포 전에 오픈 소스 코드의 취약점을 확인할 수 있습니다.

“현재 우리는 기존 AI를 사용하여 취약성 보고서를 작성하고, 코드 샘플을 생성하고, 대규모 데이터 세트의 추세를 식별하는 윤리적인 해커를 목격하고 있습니다. 즉, 오늘날 최고의 AI 앱은 인간이 할 수 있도록 돕는 것입니다. HackerOne의 솔루션 설계자인 Dane Sherrets는 이렇게 말했습니다.

그러나 ChatGPT와 같은 생성 AI 솔루션을 활용하려는 보안 팀은 잠재적인 문제를 방지하기 위해 적절한 인간 감독을 보장해야 합니다.

ChatGPT가 나타내는 발전은 흥미롭지만 기술은 아직 완전히 자율적으로 작동할 만큼 발전하지 않았습니다. 인공 지능이 작동하려면 사람의 감독과 일부 수동 구성이 필요하며 항상 최신 데이터와 지능을 바탕으로 실행하고 훈련할 수 있는 것은 아닙니다.

이러한 이유로 Forrester는 생성 AI를 구현하는 조직이 정확성을 보장하고 보안 또는 성능 문제 프로그램 가능성이 있는 솔루션 출시 위험을 줄이기 위해 AI 생성 콘텐츠 및 소프트웨어를 관리하기 위한 워크플로 및 거버넌스를 배포해야 한다고 권장합니다.

필연적으로 ChatGPT와 같은 AI의 실제 위험은 AI 전쟁의 양쪽에서 누가 자동화를 더 효과적으로 활용할 수 있는지에 달려 있습니다.

관련 보고서: https://venturebeat.com/security/chatgpt-ransomware-malware/

위 내용은 인터넷에서 인기 있는 ChatGPT 'Collapse': 인간이 피싱 이메일 코드를 작성할 수 있도록 도와주는 월드컵 테마입니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!