ChatGPT 아버지 '밤에 잠을 못 잔다' : 대형 모델이 학대당할까봐 정말 걱정된다

3월 21일 뉴스에 따르면, 인공지능 스타트업 조직 오픈AI(OpenAI)의 샘 알트만(Sam Altman) 대표는 지난주 인터뷰에서 인공지능이 "지금까지 인간이 개발한 것 중 최고일지도 모른다"고 말했다. "최고의 기술"은 기존 사회를 변화시킬 것입니다. 동시에 그는 이 기술에 위험이 있으며 여전히 "약간 두렵다"고 인정했습니다.

알트만은 인공지능이 실제적인 위험을 가져올 것이지만 사회를 재편하고 삶의 변화를 가져올 수 있는 "인류가 지금까지 개발한 가장 위대한 기술"일 수도 있다고 강조했습니다.

그는 "우리는 이 점에 있어서 조심해야 합니다...다행히도 우리는 그것을 조금 두려워한다고 생각합니다."

알트만은 인터뷰에서 최근 OpenAI가 출시한 인공지능 언어 모델의 최신 버전에 대해 이야기했습니다. GPT-4. 그는 ChatGPT의 출시에는 규제 기관과 사회 전체의 공동 참여가 필요하며 다양한 피드백을 통해 인공 지능 기술이 인간에게 잠재적으로 부정적인 영향을 미치는 것을 방지하는 데 도움이 될 수 있다고 강조했습니다. 그는 정부 관리들과 "정기적으로 접촉"해 왔다고 덧붙였습니다.

ChatGPT가 출시된 지 불과 몇 달 만에 월간 활성 사용자 수가 1억 명을 돌파했으며 역사상 가장 빠르게 성장하는 소비자 애플리케이션으로 인정받고 있습니다. UBS 조사에 따르면 TikTok이 월간 활성 사용자 1억 명을 유치하는 데 9개월이 걸렸고 Instagram은 거의 3년이 걸렸습니다.

아직 완벽하지는 않지만, 알트만은 GPT-4가 미국 법학 시험에서 90점이라는 좋은 점수를 얻었고, SAT 수학 시험에서도 만점에 가까운 점수를 얻었다고 말했습니다. GPT-4는 이제 시중에 나와 있는 대부분의 프로그래밍 언어로 컴퓨터 코드를 능숙하게 작성할 수 있습니다.

GPT-4는 OpenAI의 궁극적인 일반 인공 지능 생성을 향한 작은 발걸음일 뿐입니다. 인공지능 기술이 획기적인 발전을 이루게 되면 인간보다 더 똑똑한 인공지능 시스템이 등장하게 됩니다. 이것이 소위 일반 인공지능입니다.

Altman은 자신의 제품의 성공을 칭찬하지만 인공 지능의 위험성으로 인해 밤잠을 못 잔다는 사실도 인정합니다.

저는 특히 이러한 모델이 대규모로 허위 정보를 생성하는 데 사용될 것이라는 점이 우려됩니다."라고 Altman은 말했습니다. "이제 컴퓨터 코드 작성 능력이 점점 더 좋아지고 있으므로 공격적인 사이버 공격에 사용될 수 있습니다."

그러나 Al Terman은 말했습니다. 인공 지능 모델이 공상 과학 소설에서 묘사된 인간이 더 이상 필요하지 않고 스스로 결정을 내리고 세계 지배를 계획할 것이라고 믿지 않습니다. 알트만은 "누군가가 정보를 제공해주기를 기다리고 있다"며 "아직도 인간이 통제하는 도구"라고 말했다. 그러나 인공지능을 누가 통제할지는 걱정스럽다고 말했다. 그는 "우리가 정한 일부 안전 규칙을 따르지 않는 사람들은 항상 있을 것"이라며 "사회 전체가 이에 대응하는 방법을 알아낼 시간이 많지 않다고 생각한다"고 덧붙였다. , 어떻게 규제할 것인가, 어떻게 대처할 것인가."

인공지능 기술을 마스터하면 '세계를 지배'할 수도 있다는 생각에 대해 알트만은 "확실히 으스스한 발언이다"라고 말했다. 점점 더 강력한 기계를 계속 개발하기를 바랍니다." 사람들이 이러한 시스템을 다양한 방식으로 사용할 수 있게 하고 시스템이 우리의 일상 생활과 경제에 통합되어 사람들의 희망을 최대한 실현할 수 있는 시스템입니다. ”

잘못된 정보에 대한 우려

OpenAI에 따르면 GPT-4는 이미지를 입력으로 이해할 수 있게 되는 등 반복을 통해 큰 발전을 이루었습니다. 시연을 통해 GTP-4는 냉장고의 내용물을 설명하고, 퍼즐을 풀고, 인터넷 이미지 뒤에 숨은 의미를 밝힐 수도 있다는 사실이 입증되었습니다.

그러나 Altman은 ChatGPT와 같은 인공지능 언어 모델의 본질적인 문제는 잘못된 정보이며, 프로그램이 사용자에게 사실적으로 부정확한 정보를 제공할 수 있다고 말했습니다.

Altmann은 "내가 사람들에게 가장 상기시키고 싶은 것은 소위 '환상 문제'입니다." "이 모델은 완전히 조작된 것을 사실처럼 보이게 만들어 실제로 한 가지를 자신 있게 진술할 것입니다."

OpenAI에 따르면, AI 모델은 부분적으로 기억보다는 연역적 추론을 사용하기 때문에 이 문제를 겪고 있습니다.

OpenAI 최고 기술 책임자 Mira Murati는 다음과 같이 말했습니다. "GPT-3.5와 GPT-4의 가장 큰 차이점 중 하나는 GPT-4가 추론에서 더 강력한 창발 능력을 가지고 있다는 것입니다."

Murati는 다음과 같이 말했습니다. "목표는 AI가 예측하는 것입니다. 다음에 어떤 단어가 나올지, 그것은 언어의 본질에 대한 이해입니다." "우리는 이 모델이 인간처럼 세상을 보고 이해하기를 원합니다."

Altman은 "우리가 개발한 모델은 사실 정보의 데이터베이스가 아니라 추론 엔진이라는 점을 깨달아야 합니다. 물론 사실 데이터베이스 역할도 할 수 있지만 이는 특별한 것이 아닙니다. 우리가 원하는 것은 다음과 같습니다.

Altman과 그의 팀은 "시간이 지남에 따라 이 모델이 진정한 추론 엔진이 될 것"을 희망하며, 이 모델은 결국 인터넷 정보에 의존하여 자신만의 연역적 추론을 수행하여 분별할 수 있을 것이라고 말했습니다. 어떤 정보가 사실이고 어떤 정보가 허구인지. OpenAI의 데이터에 따르면 GPT-4는 이전 버전보다 정확한 정보를 생성할 가능성이 40% 더 높습니다. 그러나 Altman은 사람들이 정확한 정보의 주요 소스로 시스템에 의존해서는 안 되며 사용자가 프로그램에서 생성된 결과를 주의 깊게 검토하도록 권장했습니다.

악당으로부터 보호하는 방법

ChatGPT 및 기타 인공 지능 언어 모델이 어떤 종류의 정보를 생성할지에 대해서도 많은 사람들이 우려하고 있습니다. Altman에 따르면 ChatGPT는 시스템에 내장된 보안 조치 때문에 사용자에게 폭탄을 만드는 방법을 알려주지 않습니다.

"내가 걱정하는 것은... 우리만이 이 기술을 만드는 것이 아니라는 것입니다."라고 Altman은 말했습니다. "우리처럼 보안 조치를 추가하지 않는 사람들은 항상 있을 것입니다."

Altman에 따르면 인공 지능의 이러한 모든 잠재적 위험에 대한 몇 가지 솔루션과 보호 장치가 있습니다. 하나는 사람들이 ChatGPT를 어떻게 사용하는지 알아보기 위해 위험이 낮을 때 사회가 ChatGPT를 가지고 놀도록 하는 것입니다.

Mulati는 ChatGPT가 이제 대중에게 공개된 주된 이유는 ChatGPT에서 "많은 피드백을 수집"하기 위한 것이라고 말했습니다. 그녀는 대중이 OpenAI 애플리케이션을 계속 테스트함에 따라 보안 조치가 필요한 위치를 결정하는 것이 더 쉬워질 것이라고 믿습니다.

Mulati는 "사람들이 이를 사용하는 목적, 어떤 문제가 있는지, 어떤 단점이 있는지 모두 시간에 개입하여 기술을 개선할 수 있게 해줍니다."

Altman은 또한 대중이 ChatGPT의 각 버전과 상호 작용할 수 있다고 강조했습니다. 상호작용하는 것이 중요합니다. 그는 “만약 우리가 연구실에 앉아서 GPT-7 개발 등 비밀 연구를 하다가 한꺼번에 공개한다면… 더 많은 부정적인 영향을 가져올 것이라고 생각한다”고 말했다. 이해하고 반응하고 마침내 이 기술에 익숙해지려면 시스템의 단점이 어디에 있는지, 부작용을 완화하는 방법을 이해하는 시간도 필요합니다."

Altman은 OpenAI에 정책 수립을 전담하는 팀이 있다고 밝혔습니다. ChatGPT가 입력할 수 있는 정보와 ChatGPT가 사용자와 공유할 수 있는 정보를 결정합니다.

Altman은 다음과 같이 덧붙였습니다. "(우리는) 이러한 문제를 해결하고 안전하고 신뢰할 수 있다고 믿는 제품을 출시하기 위해 시스템을 검토하기 위해 정책 및 보안 전문가와 논의 중입니다." 하지만 위험이 상대적으로 낮을 때 교훈을 얻고 안전한 여유를 찾는 것이 중요합니다.”

AI가 일자리를 대체할 것인가?

사람들이 AI 기술의 파괴력을 걱정하는 이유 중 하나는 다음과 같습니다. 기존 일자리를 대체하게 됩니다. 인공지능이 가까운 미래에 일부 직업을 대체할 수도 있지만 그것이 얼마나 빨리 일어나는가에 달려 있다고 알트만은 말했다.

알트만은 "여러 세대를 거치면서 인류는 주요 기술 변화에 적응할 수 있다는 것을 입증했다고 생각합니다."라고 말했습니다. "하지만 만약 이것이 몇 년 안에 일어난다면 어떤 변화가 일어날지 가장 걱정됩니다. ...”

그러나 그는 사람들이 ChatGPT를 자신의 작업을 대체하는 것이 아니라 도구로 생각하도록 권장합니다. Altman은 "인간의 창의성은 무한합니다. 우리는 새로운 일자리를 찾고 새로운 할 일을 찾을 것입니다."라고 덧붙였습니다.

Altman은 ChatGPT가 위험을 초래하는 것보다 인간의 도구로서 더 많은 효과를 가지고 있다고 믿습니다.

그는 "우리 모두는 우리의 학습을 돕기 위해 맞춤형 훌륭한 교육자를 가질 수 있습니다." "우리는 모든 사람에게 의학적 조언을 제공할 수 있는데, 이는 오늘날 우리가 달성할 수 없는 것입니다."

"Vice Driving"

ChatGPT는 일부 학생들이 ChatGPT를 부정행위에 사용하기 때문에 교육계에서 많은 논란을 불러일으켰습니다. 교육자들은 ChatGPT가 학생 학습의 확장 역할을 할 수 있는지, 아니면 학생이 스스로 학습하려는 동기에 영향을 미칠 수 있는지에 대해 엇갈린 의견을 가지고 있습니다.

"교육 방식은 변해야 하지만 기술이 발전함에 따라 그런 일이 여러 번 일어났습니다."라고 Altman은 말했습니다. 그는 학생들의 교사가 더 이상 교실에만 국한되지 않을 것이라고 덧붙였습니다. "저를 가장 흥분시키는 것은 한 가지입니다. 각 학생에게 더 나은 맞춤형 학습을 제공할 수 있습니다.”

Altmann과 그의 팀은 사용자가 대량의 컴퓨터 코드를 작성하거나 문제를 해결하도록 돕는 등 모든 분야의 사용자가 ChatGPT를 "부조종사"로 간주할 수 있기를 바랍니다.

“우리는 모든 산업에 이러한 서비스를 제공하여 사람들이 더 높은 삶의 질을 누릴 수 있도록 할 수 있습니다.”라고 알트만은 “우리도 오늘날 상상조차 할 수 없는 새로운 일을 갖게 될 것이며 그것이 우리의 약속입니다.”

위 내용은 ChatGPT 아버지 '밤에 잠을 못 잔다' : 대형 모델이 학대당할까봐 정말 걱정된다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!