돼지 죽이는 판은 대형 AI 모델을 속여 가격이 520위안(약 52만원)에 달했다.

'돼지 킬링 플레이트' 하면 가려움증으로 싫어하는 분들이 많습니다. 이는 인터넷에서 널리 알려진 통신 사기 형태입니다. 사기꾼들은 페르소나, 데이트 루틴 등 '돼지 먹이'를 준비하고, 소셜 플랫폼을 '돼지 펜'이라고 부르며, 여기서 '돼지'라고 부르는 사기 대상을 찾아 연애 관계를 구축하는데, 이를 '돼지 키우기'라고 합니다. 마침내 돈이 사기당하는데, 이는 '돼지 죽이기'이다.

사기꾼들이 해외에 있기 때문에 이런 사기 사건은 대개 해결이 어렵습니다. 피해자들은 이런 식으로 수십만, 심지어 수백만 달러의 돈을 낭비하게 되며, 그들 역시 큰 정신적 피해를 입습니다.

B 스테이션 주인 @turling의 고양이는 최근 그의 친구들 중 몇몇도 돼지 죽이는 판을 목격했다고 말했습니다. 그래서 그는 "마법을 사용하여 마법을 물리치기"로 결정했습니다. Bilibili 댓글을 사용하여 훈련된 AI를 사용하여 사기꾼과 채팅하고 AI가 사기꾼을 어떻게 속일 수 있는지 확인하는 것입니다. 결국 그는 돈 한 푼도 잃지 않았을 뿐만 아니라, 사기꾼으로부터 520위안이라는 빨간 봉투를 받았습니다.

동영상 주소: https://www.bilibili.com/video/BV1qD4y1h7io/

저자는 사기꾼들이 미끼를 물 수 있도록 여러 소셜 플랫폼에 계정을 등록했으며 이에 따라 공안부에 제출하고 사기 방지 센터에서 공개한 피해자 초상화에는 계정에 독신, 부자, 교육 수준이 높고 품행이 바른 등의 신원 태그가 부여됩니다. 이런 성격 덕분에 그에게는 많은 비공개 메시지가 전달되었습니다.

사기꾼을 정확하게 식별하고 실수로 일반 사람들에게 피해를 입히는 것을 방지하기 위해 다음 조건을 충족하는 사람만 AI와의 채팅에 입장합니다.

결국 5명의 용의자가 "눈에 띕니다". 저자는 AI와 용의자 중 한 사람의 대화를 보여준다.

첫날 대화는 주로 '가족 배경 알아보기'에 관한 것이 었습니다. 피의자와 AI 모두 서로에게 재정 자원을 보여주었습니다. 이 기간 동안 '베이징 스승님 계상', '스승님은 무슨 일을 하시나요?' 등의 밈을 비롯해 AI 밈이 자주 등장했다. 결국 피의자는 '회사 회의를 주최한다'는 구실로 대화를 끝내기 위해 애썼다.

다음 날, 피의자는 친구들 사이에서 찾은 단서를 이용해 공통 주제를 찾기 위해 근사 모드를 시작했고, 두 사람은 고양이 키우기, '위대한 개츠비'에 대해 이야기를 나누었고, 철학. .

이러한 주제의 대부분은 AI가 따라잡을 수 있지만 가끔 "위대한 개츠비"에 관해 이야기할 때 백과사전 정보를 자동으로 제공하는 등 AI의 결함이 드러납니다. 그러나 피의자는 이러한 허점을 자세히 조사하지 않은 것으로 보인다.

4일째, 피의자는 관계 구축을 위해 사랑의 방향으로 화제를 끌어들이기 시작했습니다. 이때 폭발점이 찾아왔다. 피의자의 말이 '그냥'이라는 키워드를 발동시켰기 때문에 AI는 "꼬마 헤이지, 닭발 보여주냐?"라는 폭발적인 농담을 직접 던졌다.

그러나 피의자는 여전히 의심의 여지가 없습니다...

3주 동안 이런 대화를 나눈 후, 피의자는 빨간 봉투를 주는 큰 움직임을 보였습니다. 이에 AI는 흔쾌히 수락하고 몇 마디 정중한 말을 건넸다.

그런데 피의자가 불쌍한 척하며 AI에게 보살핌을 받고 싶어하자 AI의 반응은 좀 뜬금없어 보였습니다.

그러나 피의자는 여전히 의심하지 않고 계속해서 개성을 과시했고, AI는 계속해서 밈으로 대화를 나눴다.

결국 피의자는 AI를 속여 돈을 투자하게 하려고 곤경에 처한 척 하기 시작했습니다.

AI는 돈이 없다고 주장하지만, 피의자 역시 다양한 방법을 동원할 것이다.

피의자는 사기가 실패했음을 알게 된 후 경찰의 사건 처리를 더욱 어렵게 만들기 위해 AI가 채팅 기록을 삭제하도록 하려고 했습니다.

결국 피의자는 방어를 뚫고 AI가 제공하는 정보를 모두 거부하며 대화는 종료됐다.

물론, 마법을 사용해 마법을 물리치는 이런 일은 이전에도 일어났습니다. 이전에 Xiaomi 휴대폰의 Xiao Ai는 사기 전화 수신으로 널리 검색되었습니다. MIUI에는 통화 설정 옵션에서 괴롭힘 방지를 활성화한 후 괴롭힘 전화가 전화번호부에 기록됩니다. 괴롭히는 전화가 오면 Xiaoai는 자동으로 전화 소유자가 전화에 응답하도록 돕고 때로는 몇 분 동안 사기꾼과 채팅하는 데 도움을 줍니다.

괴롭히는 전화에 AI를 사용하는 것이 이런 문제의 궁극적인 해결책인 것처럼 보이지만 상황은 상승세를 타고 있습니다. 나중에 괴롭히는 전화를 하는 당사자도 AI를 사용하여 AI 스파링으로 변했습니다. , 그러다가 큰 문제가되었습니다. 모델이 도착했고 두 당사자 간의 상호 작용이 더욱 흥미로워졌습니다. 자주 헤드라인을 장식하는 이 AI는 대형 모델에서도 지원됩니다.

거짓말쟁이와 경쟁하는 AI, 어떻게 하는 걸까요?

이 AI는 Inspur 인공 지능 연구소에서 출시한 대규모 중국어 모델인 Source 1.0을 기반으로 하며 2,457억 개의 매개변수를 가지고 있으며 세계 최대의 중국어 데이터 세트인 5.02TB를 포함합니다. Source 1.0은 대화, 연속 스토리, 뉴스 생성 등 다양한 작업을 수행할 수 있습니다. 가장 중요한 점은 이것이 오픈 소스라는 것입니다.

주소: https://air.inspur.com/

모델은 완성되었고, 튜링의 고양이는 새로운 문제에 직면하게 됩니다. WeChat 채팅은 다단계 대화이고 AI의 경우 이전 문장에서 자신이나 상대방이 말한 내용을 기억하지 못하는 경우가 종종 있습니다. 상대방이 진짜 사람인지 의심해보세요.

이 문제를 해결하기 위해 Turing's Cat은 시퀀스 모델에서 LSTM 아이디어를 참조하고 시스템에 메모리 메커니즘을 추가함으로써 AI가 간단한 장기 및 단기 대화를 달성할 수 있다고 말했습니다. 어제 이야기한 것과 같은 기억, AI는 이전 라운드에서 논의한 내용을 참조합니다.

또한 AI가 말하는 단어를 실제 사람과 더 비슷하게 만들기 위해 Turing's Cat은 AI가 타겟 방식으로 의사소통하는 방법을 학습할 수 있도록 Prompt example을 기반으로 한 선험적 규칙도 추가했습니다. 주어진 사기 시나리오와 같은 작업에서.

예제 코퍼스는 주로 Bilibili와 Tieba의 인기 댓글에서 추출됩니다. 이런 방식으로 AI는 네티즌의 현명한 단어와 밈을 학습하여 두 당사자 간의 대화를 덜 무뚝뚝하게 만듭니다.

마지막으로 Turing’s Cat은 오픈 소스 Wechaty 프레임워크를 사용하여 클라우드에 백엔드를 구축하고 로컬 Python 스크립트를 기반으로 puppet 서비스를 호출하여 AI가 WeChat에 원활하게 액세스할 수 있도록 합니다. 미리 등록된 위챗 아이디로 로그인만 하면 AI가 모든 비공개 채팅이나 그룹 채팅에 답장을 보낼 수 있습니다.

이 동안 AI가 충분히 인간형인지 확인하기 위해 Turing의 고양이는 여전히 약간의 생각을 하고 많은 트릭을 수행했습니다. 예를 들어, 이 AI가 실제처럼 보이는 친구 그룹을 게시하고, 각 메시지에 응답하는 간격을 설정하고, 상대방이 다음과 같이 말할 때 텍스트를 일부 채팅 이모티콘으로 대체합니다. 한숨에 많은 것 이때 AI는 연속된 문장을 이어붙여 한 문장으로 읽어준 뒤 답장을 해준다. 일부 최적화 후 이 AI는 사기꾼으로부터 520위안을 돌려받았습니다.

그런데 튜링의 고양이는 이미 사기꾼이 송금한 돈을 AI에 기부했습니다.

현재 이 코드 세트는 오픈 소스입니다: https://github.com/Turing-Project/AntiFraudChatBot

네티즌 댓글

이 AI에 대해 네티즌들은 다음과 같이 말했습니다. 나처럼.. 상대방이 반응하지 못할 수도 있다”

일부 네티즌들은 이 AI가 샤오홍슈, 지후, 웨이보 등에서 기초 학습에 활용될 수 있다고 제안했다. 이 AI의 티에바 콘텐츠는 너무 강하다.

사기꾼이 속았다는 사실에 대해 채팅 과정을 지켜보던 네티즌들은 이 AI가 일반인들과 채팅을 하면 확실히 인식되겠지만 반대편에 있는 돼지 도살 코일은 그걸 통제할 수 없다고 말했다. 결국 성능만 있을 뿐입니다.

Zhihui 씨가 말했듯이: "어쩌면 AI가 미래에 사기꾼을 실업자로 만들 수도 있습니다. 듣지 않거나 믿지 않으면 돈을 이체하지 못할 것입니다!"

위 내용은 돼지 죽이는 판은 대형 AI 모델을 속여 가격이 520위안(약 52만원)에 달했다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!