재발 신경 네트워크 튜토리얼 (RNN)

재발 성 신경망 (RNN) : 포괄적 인 가이드

재발 성 신경망 (RNN)은 Apple의 Siri 및 Google의 음성 검색과 같은 응용 프로그램에 사용되는 강력한 유형의 인공 신경망 (ANN)입니다. 내부 메모리를 통해 과거의 입력을 유지하는 고유 한 기능은 주가 예측, 텍스트 생성, 전사 및 기계 번역과 같은 작업에 이상적입니다. 입력 및 출력이 독립적 인 기존 신경망과 달리 RNN 출력은 순서의 이전 요소에 따라 다릅니다. 또한, RNNS는 네트워크 계층에서 매개 변수를 공유하고, 그라디언트 하강 중 체중 및 바이어스 조정을 최적화합니다.

위의 다이어그램은 기본 RNN을 보여줍니다. [45, 56, 45, 49, 50, ...]와 같은 데이터를 사용하는 주가 예측 시나리오에서 각 입력 (x0 ~ XT)은 과거 값을 포함합니다. 예를 들어, x0은 45, x1은 56이 될 것이며, 이러한 값은 다음 시퀀스 요소를 예측하는 데 기여합니다.

rnns 기능

rnns에서 루프를 통한 정보주기를 통해 출력을 현재 및 이전 입력의 기능으로 만듭니다.

입력 계층 (x)는 초기 입력 (중간 층)을 전달합니다. 기능, 가중 및 편견. 이 매개 변수는 숨겨진 레이어를 통해 공유되므로 여러 개의 별개의 층 대신 단일 루프 레이어가 생성됩니다. RNN은 기존 역전 대신 그라디언트를 계산하기 위해 시간 (BPTT)을 통해 역전을 사용합니다. BPTT는 공유 매개 변수로 인해 각 시간 단계에서 오류를 합산합니다.

RNNS 유형

RNN은 단일 입력 및 출력이있는 피드 포워드 네트워크와 달리 입력 및 출력 길이의 유연성을 제공합니다. 이 적응성을 통해 RNN은 음악 생성, 감정 분석 및 기계 번역을 포함한 다양한 작업을 처리 할 수 ​​있습니다.

• 일대일 : 단일 입력/출력 문제에 적합한 간단한 신경망.
• 일대일 : 단일 입력을 처리하여 여러 출력을 생성하기위한 단일 입력 (예 : 이미지 캡션)을 생성합니다 (
• unforts). (예 : 감정 분류). 재발 신경 네트워크 튜토리얼 (RNN) "/>

  권장 머신 러닝 코스

  Python

  cnns vs. 네트워크 (CNN)는 컴퓨터 비전에 일반적으로 사용되는 공간 데이터 (이미지와 같은)를 처리하는 피드 포워드 네트워크입니다. 간단한 신경망은 이미지 픽셀 종속성으로 어려움을 겪고있는 반면, CNN은 컨볼 루션, 릴루, 풀링 및 완전히 연결된 레이어를 사용 하여이 영역에서 탁월합니다. 튜토리얼 (rnn) "/>

  주요 차이점 :

  • CNNS는 스파 스 데이터 (이미지)를 처리하는 반면 RNN은 시계열 및 순차 데이터를 관리하는 반면
  • CNN은 표준 역전 계획을 사용합니다. RNN은 유연합니다.
  • CNN은 피드 포워드입니다. RNN은 순차 데이터에 루프를 사용합니다.
  • CNN은 이미지/비디오 처리에 사용됩니다. 음성/텍스트 분석을위한 RNNS.

  RNN 제한

  간단한 RNN은 그라디언트와 관련된 두 가지 주요 과제에 직면 해 있습니다.

솔루션에는 숨겨진 층 감소 또는 LSTM 및 GRU와 같은 고급 아키텍처 사용이 포함됩니다.

고급 RNN 아키텍처

단기 RNN은 단기 메모리 제한을 겪습니다. LSTM과 GRU는 장기간에 걸쳐 정보를 유지함으로써이를 해결합니다.



.
• 긴 단기 메모리 (LSTM) : 소실/폭발 기울기를 완화하도록 설계된 고급 RNN. 4 개의 상호 작용 계층은 장기 메모리 유지를 촉진하여 기계 번역, 음성 합성 등에 적합합니다. />
  • 게이트 재발 단위 (GRU) : 정보 흐름을 관리하기 위해 업데이트 및 재설정 게이트를 사용하여 LSTM의 간단한 변형입니다. 간소화 된 아키텍처는 종종 lstm에 비해 더 빠른 훈련으로 이어집니다.

  p> p> p> p> p> p> p> p>

  이 섹션에서는 Mastercard 주가를 예측하기 위해 LSTM 및 GRU를 사용하는 프로젝트를 자세히 설명합니다. 이 코드는 Pandas, Numpy, Matplotlib, Scikit-Learn 및 Tensorflow와 같은 라이브러리를 활용합니다.

  (원래 입력의 자세한 코드 예는 여기서 간단함에 대해서는 생략됩니다. 핵심 단계는 아래에 요약되어 있습니다.) 전처리 : 데이터를 교육 및 테스트 세트로 나누고 minmaxscaler 를 사용하여 스케일을 분할하고 모델 입력을 위해 재구성하십시오.

• lstm 모델 : LSTM 모델을 빌드하고 훈련하십시오.
• GRU 모델 : 유사한 아키텍처를 갖춘 GRU 모델을 구축하고 훈련시킵니다.
• GRU 결과 : RMSE를 사용하여 GRU 모델의 성능 평가.
• 결론 : LSTM 및 GRU 모델의 성능 비교. src = "https://img.php.cn/upload/article/000/000/000/1741657996336.jpg"alt = "재발 신경 네트워크 자습서 (RNN)"/>

  

  결론

  Hybrid CNN-Rnn Networks가 필요로하고 일시적으로 사용되어야합니다. 이해. 이 튜토리얼은 RNN에 대한 기본적인 이해, 그들의 한계 및 LSTM 및 GRU와 같은 고급 아키텍처에서 제공하는 솔루션을 제공했습니다. 이 프로젝트는이 특정 사례에서 GRU의 우수한 성능을 강조하면서 주가 예측을 위해 LSTM과 GRU의 적용을 시연했습니다. 완전한 프로젝트는 DataCamp Workspace에서 사용할 수 있습니다.

  https://www.php.cn/link/cc6a6632b380f3f6a1c54b1222cd96c2 를 교체해야합니다. https://www.php.cn/link/8708107b2ff5de15d024471a041fdb 관련 코스에 대한 실제 링크가 있습니다. 이미지 URL은 정확하고 액세스 할 수 있다고 가정합니다.

위 내용은 재발 신경 네트워크 튜토리얼 (RNN)의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!