검색 강화 생성 기술을 활용해 인공지능 환각 문제 해결

저자| Rahul Pradhan

출처|

인공지능은 우리 시대의 가장 영향력 있는 기술이 될 것으로 예상됩니다. transformer 기술과 생성 인공 지능의 최근 발전은 대규모 혁신과 독창성을 발휘할 수 있는 잠재력을 보여주었습니다.

그러나 생성 AI에도 과제가 있습니다. 이 과제는 이 혁신적인 기술의 적용과 가치 창출을 심각하게 방해할 수도 있습니다. 생성 AI 모델은 계속해서 복잡성과 성능이 증가함에 따라 입력 데이터를 기반으로 하지 않는 출력을 생성하는 것을 포함하여 고유한 과제도 제시합니다.

이러한 소위 "환상"은 모델에서 생성된 출력을 나타냅니다. 결과는 일관성이 있지만 사실이나 입력 맥락과 분리될 수 있습니다. 이 기사에서는 생성 인공 지능의 혁신적인 영향을 간략하게 소개하고, 기술의 단점과 과제를 검토하고, 환각을 완화하는 데 사용할 수 있는 기술에 대해 논의합니다.

제너레이티브 AI의 변형 효과

다음과 같이 다시 설명: 제너레이티브 AI 모델은 딥 러닝의 복잡한 계산 프로세스를 사용하여 대규모 데이터 세트의 패턴을 식별하고 이 정보를 사용하여 새롭고 설득력 있는 출력을 생성합니다. 이러한 모델은 인간의 두뇌가 정보를 처리하고 해석하는 방식에서 영감을 받아 기계 학습 기술에 신경망을 사용하며 시간이 지남에 따라 계속 학습하고 개선됩니다.

OpenAI의 GPT-4 및 Google의 PaLM 2 등 생성형 AI 모델 자동화, 데이터 분석, 사용자 경험 분야의 혁신을 약속드립니다. 이러한 모델은 코드를 작성하고 기사를 요약하며 심지어 질병 진단에도 도움이 될 수 있습니다. 그러나 이러한 모델의 실현 가능성과 궁극적인 가치는 정확성과 신뢰성에 따라 달라집니다. 의료, 금융 또는 법률 서비스와 같은 중요한 영역에서는 정확성의 신뢰성이 매우 중요합니다. 그러나 모든 사용자가 생성 AI의 잠재력을 최대한 실현하려면 이러한 과제를 해결해야 합니다.

대규모 언어 모델의 단점

LLM은 근본적으로 확률론적이며 비결정론적입니다. 특정 단어 시퀀스가 ​​다음에 나타날 가능성을 기반으로 텍스트를 생성합니다. LLM은 지식에 대한 개념이 없으며 추천 엔진으로서 훈련된 데이터 모음을 통한 탐색에만 전적으로 의존합니다. 이들이 생성하는 텍스트는 일반적으로 문법 및 의미 규칙을 따르지만 전적으로 프롬프트와의 통계적 일관성을 기반으로 합니다.

LLM의 이러한 확률적 특성은 장점이자 단점입니다. 목표가 정답에 도달하거나 답변에 따라 중요한 결정을 내리는 것이라면 환각은 나쁘고 피해를 입힐 수도 있습니다. 그러나 목표가 창의적인 노력이라면 LLM을 사용하여 예술적 창의성을 육성하여 예술 작품, 스토리 라인 및 시나리오를 비교적 빠르게 만들 수 있습니다.

그러나 LLM 모델의 결과를 신뢰하지 못하면 목표에 관계없이 심각한 결과를 초래할 수 있습니다. 이는 이러한 시스템의 기능에 대한 신뢰를 약화시킬 뿐만 아니라 인간의 생산성과 혁신을 가속화하는 데 AI가 미치는 영향도 크게 줄일 것입니다.

궁극적으로 AI는 훈련받은 데이터만큼만 우수합니다. LLM의 환상은 주로 다음 측면을 포함하여 데이터 세트 및 훈련의 결함으로 인해 발생합니다. :

• 과적합: 모델이 훈련 데이터(노이즈 및 이상값 포함)에 대해 너무 잘 학습하는 경우 과적합이 발생하는 경우. 모델 복잡성, 시끄러운 훈련 데이터 또는 불충분한 훈련 데이터는 모두 과적합으로 이어질 수 있습니다. 이로 인해 모델이 새로운 데이터에 대해 잘 일반화되지 않아 분류 및 예측 오류, 실제로 잘못된 출력, 낮은 신호 대 잡음 비율의 출력 또는 완전한 환각으로 이어지는 낮은 품질의 패턴 인식이 발생합니다.
• 데이터 품질: 훈련에 사용되는 데이터의 잘못된 라벨링 및 잘못된 분류는 환각에 중요한 역할을 할 수 있습니다. 편향된 데이터 또는 관련 데이터 부족으로 인해 실제로는 정확해 보이지만 모델이 권장하는 결정 범위에 따라 해로울 수 있는 모델 출력이 나올 수 있습니다.
• 데이터 부족: 데이터 부족 또는 신선하거나 관련성이 높은 데이터에 대한 필요성은 환상을 야기하고 기업이 생성 AI를 채택하는 것을 방해하는 중요한 문제 중 하나입니다. 최신 콘텐츠와 상황별 데이터로 데이터를 새로 고치면 환상과 편견을 줄이는 데 도움이 됩니다.

대형 언어 모델의 환각 처리

미세 조정, 힌트 엔지니어링, 검색 증강 생성(RAG)과 같은 기술을 포함하여 LLM의 환각을 해결하는 여러 가지 방법이 있습니다.

• 미세 조정은 해당 도메인과 관련된 콘텐츠를 보다 정확하게 생성하기 위해 도메인별 데이터 세트를 사용하여 모델을 재교육하는 것을 의미합니다. 그러나 모델을 재학습하거나 미세 조정하는 데는 시간이 오래 걸리고, 지속적인 학습을 하지 않으면 데이터가 빠르게 오래된 것이 됩니다. 게다가 모델을 재학습시키는 것도 엄청난 비용 부담을 가져옵니다.
• Hint Engineering은 입력의 힌트로 더욱 설명적이고 예시적인 기능을 제공하여 LLM이 고품질 결과를 생성할 수 있도록 돕는 것을 목표로 합니다. 모델에 추가 컨텍스트를 제공하고 이를 사실에 근거하면 모델이 환각을 일으킬 가능성이 줄어듭니다.
• Retrieval Augmented Generation(RAG)은 가장 정확한 최신 정보로 LLM의 기반을 제공하는 데 초점을 맞춘 프레임워크입니다. LLM의 응답성은 외부 지식 기반의 사실을 실시간으로 모델에 제공함으로써 향상될 수 있습니다.

검색 증강 생성 및 실시간 데이터

검색 증강 생성은 대규모 언어 모델의 정확성을 향상시키는 가장 유망한 기술 중 하나입니다. RAG를 실시간 데이터와 결합하면 환각을 크게 줄일 수 있는 것으로 나타났습니다.

RAG를 통해 기업은 최신 독점 및 상황별 데이터를 활용하여 LLM을 활용할 수 있습니다. 또한 RAG는 특정 상황 정보로 입력 콘텐츠를 풍부하게 하여 언어 모델이 보다 정확하고 상황에 맞는 응답을 생성하도록 돕습니다. 기업 환경에서 미세 조정은 종종 비실용적이지만 RAG는 개인화되고 정보에 입각한 사용자 경험을 제공하기 위한 저비용, 고수익 대안을 제공합니다.

RAG 모델을 개선하려면 효율성을 위해서는 다음과 같은 결합이 필요합니다. LLM의 모국어, 즉 텍스트의 의미를 인코딩하는 임베딩이라고 하는 고차원 수학적 벡터로 데이터를 저장할 수 있는 운영 데이터 저장소가 있는 RAG입니다. 사용자가 쿼리를 요청하면 데이터베이스는 이를 숫자형 벡터로 변환합니다. 이와 같이 동일한 용어의 포함 여부에 상관없이 벡터 데이터베이스를 통해 관련 텍스트를 조회할 수 있다.

의미 검색을 사용하여 대량의 비정형 데이터를 저장하고 쿼리할 수 있는 고가용성, 고성능 데이터베이스는 RAG 프로세스의 핵심 구성 요소입니다.

위 내용은 검색 강화 생성 기술을 활용해 인공지능 환각 문제 해결의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!