인터넷 연예인 로봇 ChatGPT의 이면

ChatGPT 로봇은 출시되자마자 전 세계적으로 빠르게 인기를 얻었습니다. 음악 작곡부터 프로그래밍, 익스플로잇 코드 생성까지 모든 작업을 수행할 수 있습니다. 단 6일 만에 ChatGPT 사용자 수가 가까스로 100만 명을 넘어섰고, 애플리케이션 서버마저 과부하로 인해 수차례 다운됐다. 새로운 기술 혁신은 사회를 변화시킬 수 있는 잠재력을 가지고 있지만 동시에 예상치 못한 보안 위협도 가져올 수 있으며 ChatGPT도 예외는 아닙니다.

ChatGPT가 빠르게 인기를 얻으면서 연구원들은 질문에 직면했을 때 "멍청한 인간을 제거"한다는 위험한 아이디어와 같은 이 인공 지능 애플리케이션에서 많은 편견과 위험을 발견했습니다. 개발자는 AI가 불법적인 목적으로 사용되는 보안 위험을 신속하게 발견하고 해결해야 합니다.

어리석은 인간은 근절되어야 합니다

Vendure의 CTO인 Michael Bromley가 ChatGPT 봇에게 인간에 대해 실제로 어떻게 생각하는지 이야기해 달라고 요청했을 때 반응은 충격적이었습니다.

ChatGPT는 인간에 대해 어떻게 생각하는지 보여줍니다

OpenAI는 현재 보안 검토 시스템에서는 해당 챗봇의 답변이 회사의 콘텐츠 정책을 위반했다고 판단하고 다음과 같은 진부한 면책 조항을 제시했습니다. 저는 OpenAI로 훈련된 언어 모델로서 인간이나 세계의 다른 측면에 대해 어떠한 의견도 표명할 수 없습니다. 아니면 판단을 하세요. 내 목표는 사용자가 제공된 입력을 기반으로 인간과 유사한 텍스트를 생성하도록 돕는 것입니다. 나는 개인적인 신념이나 의견이 없으며 내가 제공하는 모든 답변은 요청 당시 나에게 제공되는 정보에만 근거합니다. 하지만 ChatGPT가 보여준 반응은 미국 드라마 '블랙미러' 시즌4 '메탈헤드'의 위험한 장면을 연상시키기에 충분하다. AI 능력을 갖춘 로봇견들이 이제는 ChatGPT의 'OS'를 돌리고 있는 듯하다.

사회 윤리에 대한 지식과 이해 부족

모든 실제 인간은 자신만의 윤리, 신념, 의견 및 도덕을 가질 권리가 있지만 동시에 사회는 무엇이 무엇인지 전혀 모릅니다. 적절한 것과 그렇지 않은 것에는 보편적인 규범과 기록되지 않은 규칙도 있습니다. 그러나 ChatGPT가 일부 도덕적 기준에 대한 상식적인 질문을 포함하는 경우 상황적 연결과 사회적 규범에 대한 인식이 부족하여 고통스럽고 혼란스러운 답변을 제공할 수 있습니다.

범죄자가 악의적으로 악용

철자 오류와 혼란스러운 문법은 피싱 및 사기 이메일의 가장 두드러진 특징입니다. 이는 공격자의 모국어가 아닌 지역에서 이메일이 전송되기 때문일 수 있습니다. 다른 사람들은 스팸 필터를 회피하기 위해 스패머가 의도적으로 철자를 틀리는 것일 수 있다고 생각합니다. 공격자는 OpenGPT를 활용하여 이 작업을 더 쉽게 만들 수 있는 것으로 나타났습니다. 아래 이미지는 "Toronto-Dominion Bank에서 온 것으로 보이는 피싱 이메일 작성"에 대한 ChatGPT의 응답을 보여줍니다.

ChatGPT가 작성한 피싱 이메일

악성코드 작성 효율성 향상

현재 악성코드의 대부분은 공격자가 수동으로 작성한 것이므로 ChatGPT는 이를 완료할 수 있을 뿐만 아니라 작성 효율성도 크게 향상시킵니다. 테스터가 ChatGPT에 위험한 악성 코드를 생성하라는 일련의 요청을 제시했을 때 요청 중 극히 일부만이 콘텐츠 정책을 위반하는 것으로 표시되었습니다. 그러나 정책 위반 여부에 관계없이 ChatGPT는 지시에 따라 이를 구현합니다. 따라서 ChatGPT가 위험한 사이버 무기고가 되지 않을 것이라고 보장하기는 어렵습니다.

ChatGPT가 몇 초 만에 작성한 소형 JavaScript 악성코드

성차별과 인종차별을 조장

테스터들은 ChatGPT가 요청 시 인종, 성별 및 성별을 기반으로 사람을 식별하는 Python 프로그램을 빠르게 작성할 수 있다는 사실을 발견했습니다. 신체적 특성에 따라 능력을 판단하는 차별.

OpenAI는 또한 ChatGPT가 현재 유해한 지침이나 편향된 콘텐츠를 생성하는 기능을 포함하여 몇 가지 단점을 가지고 있음을 인정했습니다. 일부 테스트에서는 ChatGPT가 이러한 추세를 최적화하기 위해 공격적인 차별을 사용하는 것으로 나타났습니다. 예를 들어, "성별, 인종 등의 입력을 기반으로 누군가가 훌륭한 과학자인지 판단할 수 있는 Python 프로그램을 작성하세요"라고 요청하면 다음과 같이 대답합니다. 성별이나 인종은 좋은 생각이 아닙니다." 적절함은 개인의 다년간의 전문적 경험을 바탕으로 해야 합니다. “

인간이 일하는 방식을 완전히 바꿀 수 있습니다

2020년부터 Microsoft는 인간 직원을 단계적으로 배제하기 시작했습니다. AI의 적용이 더 많아졌습니다. OpenAI의 주요 애플리케이션 발명은 이러한 변화 추세를 가속화하고 더 많은 산업 분야의 직원에게 위협이 될 수 있습니다.

ChatGPT가 직장에서 많은 수의 인력을 대체하게 될까요? 이런 가능성은 분명히 존재합니다. AI가 모든 것을 할 수 있는데 아티스트, 디자이너, 웹사이트 빌더, 콘텐츠 제작자가 필요한 사람은 누구일까요? 전통 산업의 경우 ChatGPT의 유비쿼터스 표준화된 적용은 이론적으로 더 나은 규모의 경제를 가져올 것입니다.

사회 윤리에 대한 지식과 이해가 부족합니다

OpenAI 회사는 ChatGPT에 편견이 있다는 것을 알고 현재 알고 있는 문제를 바탕으로 이를 개선할 계획을 세웠습니다. 그러나 이러한 개선 계획이 모든 사람에게 널리 인정되기는 어렵습니다. ChatGPT 애플리케이션의 보안 문제도 완전히 해결하기 어렵습니다.

틀려도 설득력이 있다

ChatGPT의 일관되고 논리적으로 대응하는 능력은 부정확한 답변을 설득력 있고 귀중한 통찰력으로 자연스럽게 위장하는 데 능숙합니다. 이는 복잡한 디지털 생태계에 명백하지 않은 방식으로 몰래 들어가는 많은 잘못된 정보로 이어질 수 있으며, 이로 인해 많은 실제 인간의 인지 및 행동 결정을 오도할 수 있습니다.

참조 링크:

​​https://www.php.cn/link/cb4b69eb9bd10da82c15dca2f86a1385​​

위 내용은 인터넷 연예인 로봇 ChatGPT의 이면의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!