ChatGPT란 무엇인가요? G, P, T는 무엇을 의미하나요?

빌 게이츠: ChatGPT는 1980년 이후 가장 혁신적인 기술 발전입니다.

AI 변혁의 시대에 우리는 동참하고 따라잡을 수밖에 없습니다.

이것은 내 학습 노트입니다. ChatGPT를 이해하는 데 도움이 되기를 바랍니다.

1. ChatGPT의 GPT는 무엇을 의미하나요?

GPT, Generative Pre-trained Transformer, 생성적 사전 훈련된 변환 모델.

무슨 뜻인가요?

Generative는 콘텐츠를 자연스럽게 생성할 수 있다는 의미입니다.

사전 훈련, 사전 훈련은 일반 언어 모델을 직접 준비하고 다시 훈련할 필요가 없습니다.

변환 모델인 Transformer는 Google이 제안한 매우 강력한 모델로 NLP 관련 문제를 더 잘 처리하는 데 도움이 될 수 있습니다.

2. Transformer는 Google에서 제안했지만. 하지만 가장 성공적인 애플리케이션은 OpenAI의 ChatGPT입니다.

ChatGPT는 거인의 어깨 위에 서 있기 때문입니다.

ChatGPT는 모든 인류 사회의 결정체입니다. 길을 닦지 않았다면 ChatGPT가 그렇게 원활하게 나오지 않았을 것입니다.

향후에는 ChatGPT를 기반으로 하는 더욱 강력한 애플리케이션이 나올 것입니다.

3. Transformer에는 Attention 메커니즘이라는 매우 중요한 개념이 있습니다.

주의 메커니즘은 무엇입니까?

입력한 정보 중에서 중요한 정보를 골라내고, 이 중요한 정보에 집중하고, 중요하지 않은 정보는 무시한다는 뜻입니다. 이렇게 하면 당신이 말하는 내용을 더 잘 이해할 수 있습니다.

주의 메커니즘은 Transformer 모델이 입력 정보의 가장 중요한 부분에 집중하는 데 도움이 될 수 있습니다.

4. 머신러닝 방법은 지도 학습, 비지도 학습, 강화 학습으로 구분됩니다.

지도 학습: 라벨이 있는 데이터, 직접적인 피드백이 있으며 결과와 미래를 예측할 수 있습니다.

비지도 학습: 라벨과 목표, 피드백이 없지만 스스로 데이터에 숨겨진 결과를 검색합니다.

강화 학습: ChatGPT는 비지도 학습과 강화 학습을 사용하여 기계 학습을 더 효과적으로 수행할 수 있도록 일련의 보상 메커니즘과 처벌 메커니즘을 갖추고 있습니다.

5. ChatGPT는 실제로 추측 확률에 의존하는 많은 양의 콘텐츠를 생성하고 생성할 수 있습니다.

예를 들어 날씨는 흐리고 기분은 매우 ____

많은 양의 데이터로 훈련된 AI는 이 공간에 나타날 확률이 가장 높은 단어가 "우울"이라고 예측합니다.

그러면 이 빈칸에 "우울"이 채워지므로 대답은 다음과 같습니다.

날씨가 회색이고 매우 우울합니다

믿을 수 없는 기분이지만 사실입니다.

이 단계의 모든 NLP(자연어 처리) 작업은 인간 세계를 진정으로 이해할 수 있는 기계가 아닙니다.

그는 단지 단어 게임을 하고 확률 퍼즐을 계속해서 풀고 있을 뿐입니다.

6. "확률 추측"이라는 단어 게임에서 대형 언어 모델(LLM, Large Language Model)은 BERT와 GPT라는 두 가지 주요 방향으로 발전했습니다.

BERT는 이전에는 거의 모든 NLP 분야를 장악하면서 가장 인기 있는 방향이었습니다.

그리고 자연어 이해 작업(예: 텍스트 분류, 감정 경향 판단 등)을 잘 수행합니다.

GPT 방향은 상대적으로 약하고, 가장 잘 알려진 플레이어는 OpenAl입니다.

사실 GPT3.0 출시 이전에는 GPT의 방향성은 항상 BERT보다 약했습니다(GPT3.0은 GPT3.5의 전신이자 ChatGPT의 뒤를 이은 모델입니다).

7. BERT와 GPT의 차이점은 무엇인가요?

BERT는 양방향 언어 모델로 연결 전후 중간에 있는 단어를 추측하므로 빈칸을 채우는 것과 마찬가지로 양방향입니다.

예: 저는___20일에 집에 갑니다

BERT는 "나는 20일에 집에 갈 계획입니다"를 추측하고 중간에 "계획"을 추측했습니다.

GPT는 다음 단어를 추측하는 단방향 언어 모델이므로 작문을 작성하는 것과 마찬가지로 단방향입니다.

예: 20일에 집에 갈 계획입니다___

GPT는 "20일에 집에 갈 계획입니다"라고 추측하고 그 뒤에 "집에 갈 예정"이라는 단어를 추측했습니다.

8. GPT에 질문하는 방법은 무엇인가요?

미세 조정과 신속한 두 가지 방법이 있습니다.

미세 조정, 매개변수 조정: 생성된 콘텐츠를 완성하려면 모델 매개변수를 업데이트해야 합니다.

fine-tune은 전문적이며 임계값이 높고 청중이 적습니다. 그러나 다양성과 정확성이 높아 복잡한 작업에 적합합니다. 소수의 플레이어를 위한 게임입니다.

즉각적이고 즉각적인 단어: 모델과 매개변수를 수정할 필요가 없으며 작업을 완료하는 데 필요한 몇 가지 팁과 예만 제공하면 됩니다.

프롬프트는 더 간단하고 임계값이 낮으며 청중이 많습니다. 간단한 작업을 처리하는 데 적합합니다. 모든 선수들이 그렇습니다.

ChatGPT 입력 상자에 입력하는 내용이 프롬프트입니다.

9. ChatGPT는 생성 AI입니다.

AI는 콘텐츠 제작 방식에 따라 분석 AI와 생성 AI 두 가지로 나뉜다.

Analytical AI는 주로 분석과 분류에 사용됩니다. 얼마나 많은 데이터를 공급하는지, 어떤 종류의 콘텐츠를 분석할 수 있는지는 데이터 자체에 국한됩니다.

제너레이티브 AI는 데이터의 분포를 학습하고 요약하여 데이터에 없는 새로운 콘텐츠를 만들어냅니다. 텍스트, 그림, 코드, 음성 합성, 비디오 및 3D 모델을 생성할 수 있습니다.

ChatGPT는 텍스트 및 코드 작성에 가장 적합한 생성 AI입니다.

10. 마지막으로 지식 습득의 관점에서 ChatGPT는 "지식 표현 및 호출 방법"의 새로운 세대입니다.

초창기에는 지식이 구조화된 방식으로 데이터베이스에 저장되었습니다. 우리는 SQL을 통해 그것을 얻습니다.

이후 인터넷이 탄생하면서 텍스트, 사진, 동영상 등 구조화되지 않은 지식이 인터넷에 저장되는 경우가 많아졌습니다. 우리는 검색 엔진을 통해 정보를 얻습니다.

이제 지식은 매개변수 형태로 대형 모델에 저장됩니다. 우리는 자연어를 사용하여 이 지식을 직접 호출합니다.

위 내용은 ChatGPT란 무엇인가요? G, P, T는 무엇을 의미하나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!