연구에 따르면 대규모 언어 모델에는 논리적 추론에 문제가 있습니다.

번역가 | Li Rui

리뷰어 | Sun Shujuan

감각을 갖춘 챗봇이 화제가 되기 전에는 이미 LLM(대형 언어 모델)이 더 많은 흥미와 우려를 불러일으켰습니다. 최근 몇 년 동안 대량의 텍스트에 대해 훈련된 딥 러닝 모델인 LLM(대형 언어 모델)은 언어 이해 능력을 측정하는 데 사용되는 여러 벤치마크에서 좋은 성능을 보였습니다.

GPT-3 및 LaMDA와 같은 대규모 언어 모델은 더 긴 텍스트에서 일관성을 유지합니다. 그들은 다양한 주제에 대해 잘 알고 있는 것처럼 보이며 긴 대화 내내 일관성을 유지합니다. LLM(대형 언어 모델)은 매우 설득력이 있어 일부 사람들은 이를 성격 및 더 높은 형태의 지능과 연관시킵니다.

하지만 LLM(대형 언어 모델)이 인간처럼 논리적 추론을 수행할 수 있나요? UCLA 과학자들이 발표한 연구 논문에 따르면 LLM(대형 언어 모델)에 사용되는 딥 러닝 아키텍처인 Transformers는 추론 기능을 시뮬레이션하는 방법을 학습하지 않는다고 합니다. 대신, 컴퓨터는 추론 문제에 내재된 통계적 특성을 학습하는 영리한 방법을 찾아냈습니다.

연구원들은 제한된 문제 공간에서 현재 인기 있는 Transformer 아키텍처 BERT를 테스트했습니다. 그들의 결과는 BERT가 훈련 공간의 분포 내의 예제에 대한 추론 문제에 정확하게 응답할 수 있지만 동일한 문제 공간을 기반으로 하는 다른 분포의 예제로 일반화할 수 없음을 보여줍니다.

그리고 이 테스트는 심층 신경망의 몇 가지 단점과 이를 평가하는 데 사용되는 벤치마크를 강조합니다.

1. 인공지능에서는 논리적 추론을 어떻게 측정하나요?

GLUE, SuperGLUE, SNLI 및 SqUAD와 같이 자연어 처리 및 문제 이해를 목표로 하는 인공 지능 시스템에 대한 여러 벤치마크가 있습니다. Transformer의 규모가 커지고 더 큰 데이터 세트에 대한 교육을 받음에 따라 Transformer는 이러한 벤치마크를 점진적으로 개선할 수 있었습니다.

이러한 벤치마크에서 AI 시스템의 성능이 종종 인간 지능과 비교된다는 점은 주목할 가치가 있습니다. 이러한 벤치마크에서 인간의 성과는 상식 및 논리적 추론 능력과 밀접한 관련이 있습니다. 그러나 대규모 언어 모델이 논리적 추론 능력을 얻거나 많은 양의 텍스트에 노출되어 향상되는지는 확실하지 않습니다.

이를 테스트하기 위해 UCLA 연구진은 명제 논리를 기반으로 한 논리적 추론 문제 클래스인 SimpleLogic을 개발했습니다. 언어 모델의 추론 기능이 엄격하게 테스트되었는지 확인하기 위해 연구원들은 템플릿 언어 구조를 사용하여 언어 차이를 제거했습니다. SimpleLogic 문제는 일련의 사실, 규칙, 쿼리 및 레이블로 구성됩니다. 사실은 "참"이라고 알려진 술어입니다. 규칙은 용어로 정의된 조건입니다. 쿼리는 기계 학습 모델이 응답해야 하는 질문입니다. 레이블은 쿼리에 대한 답변, 즉 "true" 또는 "false"입니다. SimpleLogic 질문은 훈련 및 추론 중에 언어 모델에서 예상하는 신호와 구분 기호를 포함하는 연속 텍스트 문자열로 컴파일됩니다.

SimpleLogic 형식의 질문 SimpleLogic의 특징 중 하나는 질문이 독립적이며 사전 지식이 필요하지 않다는 것입니다. 많은 과학자들이 말했듯이 인간이 말할 때 공유된 지식을 무시하기 때문에 이는 특히 중요합니다. 이것이 바로 언어 모델이 누구나 알고 있는 기본적인 세계 지식에 대한 질문을 받을 때 종종 함정에 빠지는 이유입니다. 이와 대조적으로 SimpleLogic은 개발자가 문제를 해결하는 데 필요한 모든 것을 제공합니다. 따라서 SimpleLogic 형식으로 인해 발생하는 문제를 살펴보는 모든 개발자는 배경 지식에 관계없이 해당 규칙을 추론하고 새로운 예제를 처리할 수 있어야 합니다.

2. 통계적 특성화 및 논리적 추론

연구원들은 SimpleLogic의 문제 공간이 추론 기능으로 표현될 수 있음을 입증했습니다. 연구원들은 또한 BERT가 SimpleLogic의 모든 문제를 해결할 만큼 강력하며 추론 기능을 나타내기 위해 기계 학습 모델의 매개변수를 수동으로 조정할 수 있음을 보여주었습니다.

그러나 SimpleLogic 예제 데이터세트에서 BERT를 훈련했을 때 모델은 스스로 추론 기능을 학습할 수 없었습니다. 기계 학습 모델은 데이터 분포에서 거의 완벽한 정확성을 달성합니다. 그러나 동일한 문제 공간 내의 다른 분포로 일반화되지는 않습니다. 훈련 데이터 세트가 전체 문제 공간을 다루고 모든 분포가 동일한 추론 함수에서 나온 경우에도 마찬가지입니다.

BERT Transformer 모델의 용량은 SimpleLogic의 추론 능력을 표현하기에 충분합니다

(참고: 이는 오픈 스페이스 문제에 적용할 수 있는 out-of-distribution 일반화 챌린지와는 다릅니다. 모델이 실패하는 경우 OOD 데이터로 일반화, 처리 시 데이터가 훈련 세트의 분포 범위를 벗어나면 성능이 크게 저하됩니다)

연구원들은 다음과 같이 썼습니다. “추가 조사 후 우리는 이 역설에 대한 설명을 제공합니다. 분포 테스트 사례에서만 높은 정확도를 달성하는 모델은 추론하는 방법을 배우지 않았습니다. 실제로 모델은 논리적 추론 문제 통계 기능을 사용하는 방법을 배웠습니다. 올바른 추론 기능을 모델링하는 대신 예측을 하십시오.”

이 발견은 언어 작업에 딥 러닝을 사용하는 데 있어 중요한 과제를 강조합니다. 신경망은 통계적 특징을 발견하고 맞추는 데 매우 능숙합니다. 일부 응용 프로그램에서는 이것이 매우 유용할 수 있습니다. 예를 들어 감정 분석에서는 특정 단어와 감정 범주 간에 강한 상관관계가 있습니다.

그러나 논리적 추론 작업의 경우 통계적 특징이 존재하더라도 모델은 기본 추론 특징을 찾아 학습하려고 노력해야 합니다.

"논리적 추론과 사전 지식을 모두 포함하고 언어적 차이를 제시하는 자연어 처리(NLP) 작업을 해결하기 위해 신경 모델을 엔드 투 엔드로 훈련하려고 할 때는 주의가 필요합니다"라고 그들은 강조했습니다. SimpleLogic이 제기하는 문제는 LLM(대형 언어 모델)에 필요한 방대한 양의 정보가 데이터에 포함되어 있지 않은 현실 세계에서 더욱 심각해집니다.

연구원들은 훈련 데이터 세트에서 통계적 특징을 제거했을 때 동일한 문제 공간의 다른 분포에서 언어 모델의 성능이 향상되는 것을 관찰했습니다. 그러나 문제는 여러 통계적 특징을 발견하고 제거하는 것이 말처럼 쉽지 않다는 것입니다. 연구자들은 논문에서 "이러한 통계적 특징은 많고 매우 복잡할 수 있어 훈련 데이터에서 제거하기가 어렵습니다."

3. 딥러닝의 추론

안타깝게도 언어의 크기만큼 모델이 증가하더라도 논리적 추론의 문제는 사라지지 않습니다. 그것은 단지 거대한 건축물과 매우 큰 훈련 자료에 숨겨져 있을 뿐입니다. LLM(대형 언어 모델)은 사실을 매우 잘 설명하고 문장을 연결할 수 있지만 논리적 추론 측면에서는 여전히 추론을 위해 통계적 기능을 사용하므로 이는 견고한 기초가 아닙니다. 더욱이 Transformers에 레이어, 매개변수 및 Attention Head를 추가한다고 해서 논리적 추론 격차가 해소될 것이라는 징후는 없습니다.

이 논문은 Game of Life나 시각적 데이터로부터의 추상적 추론과 같은 논리적 규칙을 학습하는 데 있어 신경망의 한계를 보여주는 다른 작업과 일치합니다. 이 논문은 현재 언어 모델이 직면한 주요 과제 중 하나를 강조합니다. UCLA 연구자들은 다음과 같이 지적합니다. “모델이 데이터로부터 작업을 학습하도록 훈련될 때 항상 추론 사례에 본질적으로 존재하는 통계 패턴을 학습하는 경향이 있습니다. 그러나 다른 한편으로는 논리적 규칙은 결코 학습되지 않습니다. 통계적 패턴에 의존하여 추론합니다. 통계적 특징이 포함되지 않은 논리적 추론 데이터 세트를 구성하는 것은 어렵기 때문에 데이터로부터 추론을 학습하는 것은 어렵습니다. 언어 모델 논리적 추론/

위 내용은 연구에 따르면 대규모 언어 모델에는 논리적 추론에 문제가 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!