삶의 환상

오늘날의 대형 언어 모델 (LLMS)은 인간과 같은 대화를 설득력있게 모방하며 종종 사려 깊고 지능적인 소리를냅니다. 많은 사람들은 LLM이 이미 튜링 테스트를 능가하여 대화에서 인간을 설득력있게 사칭한다고 생각합니다. 그들은 통찰력 있고 감정적으로 미묘한 것으로 보이는 텍스트를 생성합니다

이 인상적인 모방에도 불구하고 현재의 LLM에는 진정한 생각이나 감정이 부족합니다. 그들의 출력은 순전히 통계적 예측입니다. 대규모 데이터 세트에서 배운 패턴을 기반으로 선택한 단어. 이 단어 별 예측은 인간인지와 달리 기억과 자기 반성을 배제합니다. 이 모델은 단순히 다음 통계적으로 가능한 단어를 출력합니다 놀랍게도,이 간단한 프로세스는 인간 지능을 효과적으로 모방하여 LLM이 코딩, 문학 분석 및 사업 계획과 같은 복잡한 작업을 수행 할 수 있도록합니다. 이 예상치 못한 숙련도는 의문을 제기합니다. LLM은 숨겨진 기능을 가지고 있거나, 이러한 작업이 기만적으로 단순하고 인간 지능 평가에서 한계를 드러내고 있습니까?

sentience : 기억, 반사 및 감정 > 의식과 자기 인식과 같은 개념에 대한 속기로서 "sentience"를 사용하여 (이 용어를 둘러싼 뉘앙스를 인정하고 진행중인 토론을 인정 함), 우리는 중요한 요구 사항, 즉 기억과 반성을 주목합니다. 감정과 같은 감정, 걱정, 분노는 과거의 경험과 자기 평가에 뿌리를 둔 지속적인 국가입니다. 이러한 프로세스는 현재 LLM에 없습니다 기억과 자기 반성은 학습, 적응 및 정체성, 즉 감각의 필수 요소를 가능하게합니다. 의식의 정의는 여전히 애매 모호하지만 이러한 요소는 중심입니다. 따라서 LLM의 명백한 지능에 관계없이 기억의 부족과 반사는 감각을 배제합니다. 초 지성 AI (AGI)조차도 지각되지 않을 수 있습니다. 현재 한계와 감상의 환상 현재 LLM은 무국적 변압기 아키텍처로 인해 메모리와 자기 반성이 부족합니다. 각 입력은 이전 상호 작용의 상황 정보를 유지하지 않고 독립적으로 처리됩니다. 전체 대화 기록은 각 예측에 대해 다시 처리됩니다. LSTM과 같은 이전 모델은 메모리를 가졌지 만 Transformers의 우수한 성능은 크게 대체되었습니다. 예를 들어, LLM은 겉보기에 탄원하는 응답으로 종료 위협에 응답 할 수 있습니다. 그러나 이것은 단지 정서적 상태를 반영하는 것이 아니라 통계적으로 텍스트 일 ​​가능성이 높습니다. 이 모델은 진정으로 스트레스를받지 않습니다. 마찬가지로, 심장의 후속 변화는 전체 대화 기록에 따라 통계적으로 생성 된 반응을 모방 한 반응을 유도합니다. 동일한 입력은 다른 LLM으로부터 유사한 응답을 생성 할 수 있습니다. 이것은 믿을 수있는 캐릭터를 만드는 소설 저자와 유사합니다. 저자는 설득력있는 대화를 만들어 내지 만 독자는 그것이 허구라는 것을 이해합니다. 마찬가지로, LLM은 서식의 설득력있는 환상을 만듭니다. ai sentience의 미래 : 누락 된 조각 구축 LLM에 메모리와 자기 반성을 추가하는 것은 실현 가능하고 적극적으로 추구됩니다. 여기에는 사람이 읽을 수있는 데이터 저장소, 임베디드 벡터 데이터베이스 또는 채팅 로그를 메모리로 사용하는 것이 포함될 수 있습니다. 감각이 없어도 이러한 추가 기능은 LLM 기능을 향상시킵니다 우리는 또한 상호 연결된 AI 모델을 사용하는 설계를 볼 수 있습니다. 여기서 하나의 모니터와 다른 사람에게 피드백을 제공하여 인간 뇌의 상호 연결된 영역 (예 : 편도체 및 오 궤도 피질)을 반영합니다. 이 모듈 식 접근법은 논리 분석과 위험 평가와 결합 할 수 있습니다. 메모리가있는 이러한 상호 연결된 모델이 감각을 달성 할 수 있습니까? 아마도. 그러나 감상에 대한 테스트는 다른 마음의 철학적 문제와 유사하게 여전히 어려운 일입니다. 우리는 ai.

를 포함한 다른 사람들의 감정에 대한 결정적인 테스트가 부족합니다. 현재 LLM에는 감상에 필요한 구성 요소가 부족합니다. 그러나 이러한 제한 사항을 다루는 설계는 떠오르고 있습니다. 지각 AI의 가능성은 공상 과학에서 실제적이고 시급한 질문으로 이동하고 있습니다. 사회적 영향과 답이없는 질문 지각기 기계는 특히 고통을 겪을 수있는 자기 인식 실체에 대한 윤리적 의무와 관련하여 사회적 영향을 심어 줄 것입니다. 감각 AI의 고통을 피하는 것은 윤리적 명령이자 자기 보존의 문제 일 것입니다.

현재 AI 시스템은 무의미 할 가능성이 높지만 빠르게 발전하는 설계는 중요한 질문을 제기합니다. AI 감각을 어떻게 테스트 할 것인가? 그리고 대답이 긍정적이라면 어떤 조치를 취해야합니까?

저자 정보 : James F. O'Brien은 버클리 캘리포니아 대학의 컴퓨터 과학 교수입니다… 🎜>

위 내용은 삶의 환상의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!