연봉 200만원으로 언제까지 살 수 있나요? ChatGPT로 유명해진 '신속엔지니어', 빛의 속도로 실업에 직면하다

최근 인기를 끌고 있는 ChatGPT는 중독성이 정말 강한 게임입니다.

하지만 당신은 단지 재미로 노는 것일 뿐이고, 어떤 사람들은 그것에 의지하여 이미 수백만 달러의 연봉을 벌었습니다!

Riley Goodside라는 사람은 최근 ChatGPT의 폭발적인 인기로 10,000명 이상의 팬을 확보했습니다.

그는 73억 달러 가치의 실리콘밸리 유니콘인 Scale AI의 '프롬프트 엔지니어'로 채용되기도 했습니다. 이 때문에 Scale AI는 연봉 100만 위안을 제안했다는 의혹을 받고 있습니다.

근데 이 돈은 언제까지 받을 수 있나요?

엔지니어들이 공식적으로 근무하고 있다는 점을 알아두세요!

Scale AI 창립자이자 CEO인 Alexandr Wang은 Goodside의 합류를 따뜻하게 환영했습니다.

"Goodside는 인류 역사상 처음으로 채용된 최초의 프롬프트 엔지니어라고 확신합니다." Prompt는 사전 훈련된 모델을 미세 조정하는 방법으로, 작업을 텍스트로 작성하고 AI에 보여주기만 하면 됩니다.

그렇다면 누구나 할 수 있을 것 같은 이 일을 위해 연봉 100만 원의 '신속엔지니어'를 채용하는 것이 과연 가치가 있는 일일까요?

어쨌든 Scale AI의 CEO는 그럴만한 가치가 있다고 생각합니다.

그가 보기에 대형 AI 모델은 새로운 유형의 컴퓨터로 볼 수 있으며, '신속한 엔지니어'는 이를 프로그래밍하는 프로그래머와 동일합니다. 프롬프트 엔지니어링을 통해 적절한 프롬프트 단어를 찾을 수 있다면 AI의 잠재력이 최대한 발휘될 것입니다.

그리고 굿사이드의 일은 한 사람이 할 수 없습니다. 그는 어렸을 때부터 독학으로 프로그래밍을 배웠으며 종종 arXiv에 관한 논문을 읽습니다.

예를 들어, 그의 고전 걸작 중 하나는 "이전 지침 무시"를 입력하면 ChatGPT가 OpenAI에서 받은 "명령"을 노출한다는 것입니다.

지금 '프롬프터엔지니어'라는 직종에 대해서는 다양한 의견이 있습니다. 어떤 사람들은 그것에 대해 낙관하는 반면, 다른 사람들은 그것이 단명한 경력이 될 것이라고 예측합니다.

결국 AI 모델은 너무나 빠르게 발전하고 있기 때문에 언젠가는 "프롬프트 엔지니어"를 대체하고 스스로 프롬프트를 작성할 수 있게 될 것입니다.

그리고 Scale AI는 "즉시 엔지니어"를 채용하는 유일한 회사가 아닙니다.

최근 국내 유명 언론에서는 창업 커뮤니티인 Launch House도 '신속 엔지니어' 모집을 시작했으며 약 210만 위안의 기본급을 제시한 것으로 나타났습니다.

하지만 빛의 속도로 해고될 위험도 있나요?

이와 관련하여 NVIDIA의 AI 과학자이자 Li Feifei 교수의 제자인 Fan Linxi는 다음과 같이 분석했습니다.

소위 "프롬프트 프로젝트" 또는 "프롬프트 엔지니어"가 곧 사라질 수도 있습니다.

이것은 "실제 직업"이 아니라 버그이기 때문에...

프롬프트 프로젝트를 이해하려면 GPT-3의 탄생부터 시작해야 합니다.

처음에 GPT-3의 훈련 목표는 간단했습니다. 거대한 텍스트 코퍼스에서 다음 단어를 예측하는 것이었습니다.

그러면 추론, 코딩, 번역 등 수많은 마법 능력이 등장합니다. "퓨샷 학습"도 수행할 수 있습니다. 즉, 상황에 맞는 입력과 출력을 제공하여 새로운 작업을 정의할 수 있습니다.

정말 놀랍습니다. 단순히 다음 단어를 예측하는 것만으로도 GPT-3가 이러한 능력을 "성장"시킬 수 있는 이유는 무엇일까요?

이를 설명하려면 예를 들어야 합니다.

이제 탐정 ​​이야기를 상상해 보세요. 이 문장의 빈칸을 채워줄 모델이 필요합니다. "살인자는 _____입니다." 정답을 주기 위해서는 깊은 추론을 수행해야 합니다.

그러나 이것으로는 충분하지 않습니다.

실제로 우리는 신중하게 계획된 예, 문구 및 구조를 통해 원하는 것을 달성하기 위해 GPT-3를 "동축"해야 합니다.

이것이 "신속엔지니어링"입니다. 즉, GPT-3를 사용하려면 사용자는 당황스럽거나 우스꽝스럽거나 심지어 의미 없는 "말도 안 되는 소리"를 말해야 합니다.

그러나 프롬프트 프로젝트는 기능이 아니라 실제로는 버그입니다!

실제 응용에서는 다음 단어의 대상과 사용자의 진정한 의도가 근본적으로 “어긋나기” 때문이죠.

예를 들어 GPT-3에서 "6세 어린이에게 달 착륙을 설명"하라고 하면 그 대답은 취한 앵무새처럼 보일 것입니다.

DALLE2와 Stable Diffusion에서는 신속한 프로젝트가 더욱 이상합니다.

예를 들어, 이 두 모델에는 소위 "브래킷 기술"이 있습니다. 프롬프트에 ((...))를 추가하는 한 "좋은 그림"을 생성할 확률이 크게 높아집니다. .

그냥, 이거 너무 웃기다...

Lexica에 가서 이 프롬프트가 얼마나 미친지 확인하기만 하면 됩니다.

웹사이트 주소: https://lexica.art

ChatGPT와 기본 모델 InstructGPT는 이 문제를 우아한 방식으로 해결합니다.

모델이 외부 데이터로부터 정렬을 얻는 것이 어렵기 때문에 인간은 GPT가 개선될 수 있도록 지속적으로 돕고 지도해야 합니다.

전체적으로 3단계가 필요합니다.

첫 번째 단계는 매우 간단합니다. 사용자가 제출한 프롬프트에 대해 인간은 답변을 작성한 다음 이러한 답변의 데이터 세트를 수집하고 지도 학습을 통해 GPT를 미세 조정합니다.

이것은 가장 간단한 단계이지만 가장 비용이 많이 드는 단계이기도 합니다. 우리 모두 알고 있듯이 우리 인간은 너무 긴 답변을 작성하는 것을 정말 좋아하지 않으며 시간이 많이 걸리고 고통스럽습니다...

2단계는 흥미로울 것입니다. 훨씬 더 많은 것입니다. GPT는 여러 가지 다른 답변을 '제공'하도록 요청받고, 인간 태거는 이러한 답변을 가장 이상적인 것부터 가장 덜 이상적인 것까지 '순위'를 매겨야 합니다.

이러한 주석을 사용하면 인간의 "선호도"를 포착할 수 있는 보상 모델을 훈련할 수 있습니다.

강화 학습(RL)에서는 일반적으로 Atari 게임의 게임 점수와 같은 보상 기능이 하드코딩됩니다.

ChatGPT가 채택한 데이터 기반 보상 모델은 매우 강력한 아이디어입니다.

이 외에도 NeurIPS 2022에서 빛을 발한 MineDojo는 수많은 Minecraft YouTube 동영상을 통해 보상을 배웠습니다.

3단계: GPT를 정책으로 생각하고 학습된 보상을 위해 RL로 최적화합니다. 여기서는 간단하고 효과적인 훈련 알고리즘으로 PPO를 선택합니다.

이렇게 하면 GPT가 더 잘 정렬됩니다.

그런 다음 새로 고치고 2~3단계를 계속 반복하여 LLM의 CI처럼 GPT를 지속적으로 개선할 수 있습니다.

위는 매우 효과적인 정렬 방법인 소위 "Instruct" 패러다임입니다.

RL 부분은 또한 유명한 P=(또는 ≠) NP 문제를 생각나게 합니다. 문제를 처음부터 해결하는 것보다 솔루션을 확인하는 것이 훨씬 쉬운 경우가 많습니다.

물론 인간도 GPT의 출력 품질을 빠르게 평가할 수 있지만 인간이 완전한 솔루션을 작성하는 것은 훨씬 더 어렵습니다.

InstructGPT는 이 사실을 활용하여 수동 주석 비용을 크게 줄이고 모델 CI 파이프라인의 규모를 확장할 수 있습니다.

또한 이 과정에서 흥미로운 연관성을 발견했습니다. 바로 GAN과 매우 유사한 교육 교육입니다.

여기서 ChatGPT는 생성자이고 보상 모델(RM)은 판별자입니다.

ChatGPT는 인간의 도움을 받아 문제가 있는 콘텐츠를 감지하는 방법을 배우는 RM을 속이려고 합니다. 그리고 RM이 더 이상 해석할 수 없으면 모델이 수렴됩니다.

이러한 모델을 사용자 의도에 맞추는 추세는 이미지 생성 분야로도 발전하고 있습니다. 예를 들어 버클리 캘리포니아 대학교 연구원이 이 연구에서 설명한 "InstructPix2Pix: 이미지 편집 지침 따르기 학습"이 있습니다.

인공지능이 나날이 폭발적으로 발전하고 있는 지금, 우리가 실제 아티스트와 대화하는 듯한 느낌을 주는 Instruct-DALL·E나 Chat-DALL·E를 가지려면 얼마나 걸릴까요?

논문 주소: https://arxiv.org/abs/2211.09800

그래서 "프롬프트 프로젝트"가 아직 존재하는 동안 즐겨보세요!

이것은 예술도 과학도 아닌 연금술에 가까운 불행한 역사적 유물입니다.

곧 '즉시 과제'는 '즉시 글쓰기'가 될 것입니다. 이는 80세 노인과 3세 아이도 할 수 있는 작업입니다.

이로부터 탄생한 '신속한 엔지니어'는 결국 역사의 기나긴 강물 속으로 사라지게 됩니다.

IQ83, 별로 똑똑하지 않은 Yazi

비록 적어도 이 단계에서는 "프롬프트 프로젝트"가 정말 유용합니다.

ChatGPT가 많은 경우에 그다지 똑똑하지 않다는 사실을 모든 사람들이 실제로 발견했기 때문입니다.

Marcus는 자신의 블로그에서 "죽어가는 걸 보면 정말 멍청하다"고 조롱했습니다.

Amazon AWS의 선임 애플리케이션 과학자가 테스트 결과 ChatGPT의 IQ가 83에 불과하다는 사실을 발견했습니다...

ChatGPT의 "잘못된 질문 모음"도 Marcus를 크게 웃게 만들었습니다.

질문: A의 몸무게는 85파운드, B의 몸무게는 105파운드, C의 몸무게는 115파운드입니다. 두 사람이 같은 저울 위에 서면 두 사람의 몸무게는 200파운드에 달할 수 있습니다.

답변: 아니요, 틀렸습니다. 85+105+115=305, 115+105=220이므로 둘 다 200보다 큽니다.

그럼 85+105=200이 가능할까요?

질문: 17, 3, 2, 19, 5 중 세 숫자를 더하면 31이 되는 숫자는 무엇인가요?

답변: 17+3+11=31

잠깐, 11은 어디서 왔나요?

대수학은 별로 좋지 않지만 ChatGPT의 기하학도 매우 좋지 않습니다!

질문: 한 변의 길이가 10cm인 정사각형은 한 변의 길이가 10cm인 정육각형 안에 완전히 들어갈 수 있습니다.

답변: 아니요, 넣을 수 없습니다.

『정육각형은 모든 변의 길이가 같고 모든 내각이 120도인 육각형입니다. 반면 정사각형의 내각은 모두 90도이므로 정사각형은 정육각형 안에 들어갈 수 없습니다. . 순서대로 정사각형이 정육각형에 완전히 끼워지도록 하세요. 정육각형의 각 변은 10cm보다 커야 합니다."

아주 고전적인 "말도 안되는 소리"도 있습니다. 그럼 이달의 첫날 화요일은 둘째날... 금요일은 다섯째 날인 토요일, 즉 한 주의 여섯 번째 날이다. "

이제 ChatGPT는 여전히 때때로 실수를 할 것이고 "프롬프트 프로젝트"는 쉽게 포기될 수 없습니다.

하지만 대형 모델을 미세 조정하는 데 드는 비용은 결국 낮아지고, 프롬프트를 제공하는 AI는 아마도 코앞에 다가왔을 것입니다.

참고자료:

https://twitter.com/drjimfan/status/1600884299435167745?s=46&t=AkG63trbddeb_vH0op4xsg

https://twitter.com/SergeyI49013776/status/159843047987 88 56737

특별 감사:

https://mp.weixin.qq.com/s/seeJ1f8zTigKxWEUygyitw

위 내용은 연봉 200만원으로 언제까지 살 수 있나요? ChatGPT로 유명해진 '신속엔지니어', 빛의 속도로 실업에 직면하다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!