프로덕션급 대화형 AI 시스템에 대한 ChatGPT의 단점

번역가 | Bugatti

리뷰어 | Sun Shujuan

ChatGP는 이러한 인공지능(AI)의 활발한 토론에 사람들이 어떻게 상호 작용해야 하는지에 대한 질문을 제기하면서 상세하고 인간과 같은 서면 답변으로 전 세계의 주목을 받았습니다. 여러 면에서 ChatGPT는 이전 버전인 GPT-3.5의 업그레이드 버전이지만 여전히 퍼지 경향이 있습니다. 전문가들은 프로덕션 수준 애플리케이션의 경우 AI 개발자가 완전한 솔루션을 위해 ChatGPT를 다른 도구와 결합하는 것을 고려할 수 있다고 말합니다.

ChatGPT와 GPT-3.5는 OpenAI에서 개발되었으며 Microsoft Azure에서 교육을 받았습니다. 둘 다 대규모 언어 모델을 기반으로 하는 대화형 AI 시스템이지만 큰 차이점이 있습니다.

우선, GPT(Generative Pre-training Transformer) 3.5가 ChatGPT보다 먼저 나왔고, 그 신경망은 ChatGPT보다 더 많은 레이어를 가지고 있습니다. GPT-3.5는 언어 번역, 텍스트 요약, 질문 답변 등 많은 작업을 처리할 수 있는 범용 언어 모델로 개발되었습니다. OpenAI는 개발자가 해당 기능에 보다 효율적으로 액세스할 수 있는 방법을 제공하는 GPT-3.5용 API 인터페이스 세트를 제공합니다.

ChatGPT는 GPT-3.5를 기반으로 하며 특별히 챗봇으로 개발되었습니다("대화 에이전트"는 업계에서 선호하는 용어입니다). 한 가지 제한 요소는 ChatGPT에는 텍스트 인터페이스만 있고 API가 없다는 것입니다. ChatGPT는 대규모 대화 텍스트 세트에 대해 교육을 받았으며 GPT-3.5 및 기타 생성 모델보다 대화를 더 잘 수행합니다. 응답은 GPT-3.5보다 빠르게 생성되며 응답이 더 정확합니다.

하지만 두 모델 모두 합성된 경우가 많으며 업계에서는 이를 '환각'이라고 부릅니다. ChatGPT의 환각 비율은 15%에서 21% 사이입니다. 동시에 GPT-3.5의 환각율은 약 20%에서 41%로 증가해 이 점에서 ChatGPT가 개선되었습니다.

실리콘 밸리 기업 Moveworks는 다양한 산업 분야의 기업에서 사용하는 AI 대화 플랫폼에 언어 모델 및 기타 기계 학습 기술을 사용합니다. 회사 창립자이자 기계 학습 담당 부사장인 Jiang Chen은 비록 모든 언어 모델에서 흔히 발생하는 문제이지만 ChatGPT는 이전 AI 모델에 비해 크게 개선되었다고 말했습니다.

Chen은 다음과 같이 말했습니다. "ChatGPT는 사람들에게 정말 인상 깊고 놀랐습니다." Chen은 같은 이름의 거대 기술 기업의 검색 엔진 개발을 전문으로 했던 전직 Google 엔지니어였습니다. "추론 기능은 많은 기계 학습 실무자를 놀라게 할 수 있습니다.

Moveworks는 다양한 언어 모델과 기타 기술을 사용하여 고객을 위한 맞춤형 AI 시스템을 구축합니다." 몇 년 전 Google이 오픈소스로 공개한 언어 모델인 BERT를 많이 사용했습니다. 회사는 GPT-3.5를 사용하고 있으며 이미 ChatGPT를 사용하기 시작했습니다.

그러나 Chen에 따르면 프로덕션 수준의 대화형 AI 시스템을 구축하는 데 있어 ChatGPT에는 한계가 있습니다. 이러한 유형의 기술을 사용하여 맞춤형 대화형 AI 시스템을 구축할 때 고려해야 할 다양한 요소가 있습니다. 잘못된 답변을 제공하지 않고 지나치게 편향되지 않으며 선이 그려지는 위치를 아는 것이 중요합니다. 사람들을 너무 오래 기다리게 하지 않는 시스템입니다.

Chen은 질문에 답하기 위해 의미 있는 응답을 생성하는 데 ChatGPT가 BERT보다 낫다고 말했습니다. 특히 ChatGPT는 문장의 다음 단어를 예측하도록 설계된 BERT보다 더 강력한 "추론" 기능을 갖추고 있습니다.

ChatGPT 및 GPT-3.5는 질문에 대한 답변에 설득력 있는 응답을 제공할 수 있지만, 폐쇄형 엔드투엔드 특성으로 인해 Chen과 같은 엔지니어가 교육을 받을 수 없습니다. 이는 또한 산업별 대응을 위해 말뭉치를 사용자 정의하는 데 장벽이 됩니다(소매업체와 제조업체는 법률 회사 및 정부와 다른 단어를 사용합니다). 이러한 폐쇄적인 성격은 또한 편견을 줄이는 것을 더 어렵게 만든다고 그는 말했습니다.

BERT는 Moveworks와 같은 회사에서 호스팅할 만큼 규모가 작습니다. 회사는 회사와 관련된 데이터를 수집하고 교육을 위해 BERT 모델에 데이터를 공급하는 데이터 파이프라인을 구축했습니다. 이 작업을 통해 Moveworks는 GPT-3.5 및 ChatGPT와 같은 폐쇄형 시스템에서는 불가능한 최종 대화형 AI 제품에 대해 더 높은 수준의 제어를 행사할 수 있습니다.

Chen은 다음과 같이 말했습니다. "저희 기계 학습 스택은 계층화되어 있습니다. 우리는 BERT를 사용하지만 다른 기계 학습 알고리즘도 사용하므로 고객별 논리와 고객별 데이터를 통합할 수 있습니다."

Chen OpenAI 모델이 훨씬 많지만 더 크고 훨씬 더 큰 말뭉치에 대해 교육을 받았기 때문에 특정 고객에게 적합한지 여부를 알 수 있는 방법이 없습니다.

그는 이렇게 말했습니다. “(ChatGPT) 모델은 입력된 모든 지식을 인코딩하도록 사전 훈련되었습니다. 특정 작업 자체를 수행하도록 설계되지 않았습니다. 빠른 성장을 달성할 수 있는 이유는 아키텍처 자체 때문입니다. 실제로는 매우 간단합니다. 따라서 아키텍처 때문에 서로 조화를 이룬다고 말할 수 있습니다. 학습 능력이 있다는 것은 알지만 어떤 정보가 어디에 인코딩되어 있는지는 알 수 없습니다. 어떤 뉴런 층이 추론하려는 특정 정보를 인코딩하므로 블랙박스에 가깝습니다.”

Chen은 ChatGPT가 상승세를 보일 수 있다고 생각하지만, 대화형 AI를 위한 프로덕션급 도구로서의 유용성은 다소 과장되었을 수 있습니다. 더 나은 접근 방식은 하나의 특정 모델에만 전적으로 전념하기보다는 여러 모델의 강점을 활용하여 고객의 성능, 정확성, 편향 기대치 및 기술의 기본 기능에 더 잘 부합하는 것입니다.

그는 다음과 같이 말했습니다. "우리의 전략은 다양한 장소에서 일련의 다양한 모델을 사용하는 것입니다. 큰 모델을 사용하여 작은 모델을 가르칠 수 있으며 그러면 작은 모델이 훨씬 더 빨라질 것입니다. 예를 들어 원하는 경우 분석 세그먼트 검색을 수행하려면 일종의 BERT 모델을 사용한 다음 이를 일종의 벡터 검색 엔진으로 실행해야 합니다. ChatGPT는 이 목적에 비해 너무 큽니다." ChatGPT는 실제 사용이 제한될 수 있습니다. 하지만 이것이 중요하지 않다는 의미는 아닙니다. Chen은 ChatGPT가 가질 수 있는 지속적인 영향 중 하나는 실무자의 관심을 끌고 사람들이 미래에 대화형 AI 기술의 효율성 측면에서 한계를 뛰어넘도록 영감을 주는 것이라고 말했습니다.

그는 "정말 새로운 분야가 열린다고 생각한다. 앞으로 블랙박스를 열면 더 흥미로운 방법과 활용 방법이 나올 것이라고 생각한다. 이것이 우리가 기대하고 노력하고 있는 부분"이라고 말했다. ”

원제:

​​프로덕션 대화형 AI 시스템을 위한 ChatGPT의 단점​​, 저자: Alex Woodie​

위 내용은 프로덕션급 대화형 AI 시스템에 대한 ChatGPT의 단점의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!