데이터 분할 기술 및 함정 - 훈련 세트, 검증 세트 및 테스트 세트를 사용하는 방법

신뢰할 수 있는 머신러닝 모델을 구축하려면 데이터 세트 분할이 필수적입니다. 분할 프로세스에는 데이터 세트를 훈련, 검증 및 테스트 세트로 나누는 과정이 포함됩니다. 이 글에서는 이 세 가지 컬렉션의 개념과 데이터 분할 기술, 쉽게 발생할 수 있는 함정을 자세히 소개하는 것을 목표로 합니다.

훈련 세트, 검증 세트 및 테스트 세트

훈련 세트

훈련 세트는 모델이 데이터에 숨겨진 특징/패턴을 학습할 수 있도록 훈련하고 활성화하는 데 사용되는 데이터 세트입니다.

매 에포크마다 동일한 훈련 데이터가 신경망 아키텍처에 반복적으로 입력되고, 모델은 계속해서 데이터의 특성을 학습합니다.

모델이 모든 시나리오에서 훈련되고 가능한 미래 데이터 샘플을 예측할 수 있도록 훈련 세트에는 다양한 입력 세트가 있어야 합니다.

검증 세트

검증 세트는 훈련 세트와 별개로 훈련 중에 모델 성능을 확인하는 데 사용되는 데이터 세트입니다.

이 검증 프로세스는 모델의 하이퍼파라미터와 구성을 조정하는 데 도움이 되는 정보를 제공합니다. 모델은 훈련 세트에서 훈련되고, 모델은 각 에포크 후에 검증 세트에서 평가됩니다.

데이터 세트를 검증 세트로 분할하는 주요 목적은 모델의 과적합을 방지하는 것입니다. 즉, 모델은 훈련 세트의 샘플을 분류하는 데는 매우 능숙하지만, 보이지 않는 데이터를 일반화하고 정확하게 분류할 수는 없습니다.

Test Set

테스트 세트는 학습 완료 후 모델을 테스트하는 데 사용되는 별도의 데이터 세트입니다. 정확성, 정밀도 등의 측면에서 편견 없는 최종 모델 성능 측정항목을 제공합니다. 간단히 말해서 테스트 세트는 모델의 성능을 반영합니다.

데이터세트 분할 방법

데이터세트에서 다양한 샘플과 분할을 생성하면 실제 모델의 성능을 판단하는 데 도움이 됩니다. 데이터 세트 분할 속도는 데이터 세트에 있는 샘플 및 모델 수에 따라 달라집니다.

데이터 세트 분할에 대한 일반적인 추론

조정해야 하는 하이퍼 매개변수가 여러 개 있는 경우 기계 학습 모델에는 모델 성능을 최적화하기 위해 더 큰 검증 세트가 필요합니다. 마찬가지로 모델에 하이퍼파라미터가 거의 없거나 전혀 없는 경우 작은 데이터 세트를 사용하여 쉽게 검증할 수 있습니다.

모델 사용 사례가 모델 성능에 심각한 영향을 미칠 수 있는 잘못된 예측으로 이어지는 경우, 각 에포크 후에 모델을 검증하여 모델이 다양한 시나리오를 학습할 수 있도록 하는 것이 좋습니다.

데이터 차원/특성이 증가하면 신경망 기능의 하이퍼파라미터도 증가하여 모델이 더욱 복잡해집니다. 이러한 경우에는 검증 세트와 함께 훈련 세트에 많은 양의 데이터가 보관되어야 합니다.

데이터 분할 기술

1. 무작위 샘플링

랜덤 샘플링은 데이터 세트를 분할하는 가장 오래되고 널리 사용되는 방법입니다. 이름에서 알 수 있듯이 데이터 세트는 섞이고 샘플은 사용자가 지정한 백분율에 따라 무작위로 선택되어 훈련, 검증 또는 테스트 세트에 배치됩니다.

그러나 이 방법에는 분명한 단점이 있습니다. 무작위 샘플링은 클래스 균형 데이터 세트, 즉 각 데이터 세트 클래스의 샘플 수가 대략 동일한 데이터 세트에서 가장 잘 작동합니다. 클래스 불균형 데이터 세트의 경우 이 데이터 분할 방법으로 인해 편향이 발생할 수 있습니다.

2. 층화 샘플링

층화 샘플링은 클래스 분포가 불균형한 데이터 세트의 무작위 샘플링 문제를 완화합니다. 각 훈련, 검증, 테스트 세트의 클래스 분포를 보존할 수 있습니다. 계층화된 샘플링은 데이터를 분할하는 보다 공정한 방법입니다.

3. 교차 검증

교차 검증 또는 K-Fold 교차 검증은 모델이 다양한 샘플에 대해 "K"번 훈련되고 평가되는 더욱 강력한 데이터 분할 기술입니다.

K-Fold 교차 검증을 사용하여 기계 학습 모델을 다양한 데이터 분포에 노출합니다. 훈련 및 검증 세트에서 데이터를 선택할 때 발생할 수 있는 편향이 어느 정도 완화됩니다. K-Fold 교차 검증 방식을 사용할 때 평균 및 표준 편차 값을 보고하는 것이 일반적입니다.

따라서 K-Fold 교차 검증도 무작위 샘플링과 동일한 문제가 있으며 데이터 분포가 편향될 수 있습니다. 계층화는 데이터의 "K" 하위 집합 또는 부분을 생성하는 동안 데이터의 유추를 유지하는 데 사용될 수 있습니다.

데이터 분할의 일반적인 함정

1. 품질이 낮은 학습 데이터 사용

머신러닝 알고리즘은 학습 데이터에 민감하므로 학습 세트의 작은 변경/오류도 모델 성능에 영향을 미칠 수 있습니다. 오류가 발생했습니다. 따라서 훈련 데이터의 품질은 모델 성능을 향상시키는 데 매우 중요합니다.

2. 과적합

과적합은 기계 학습 모델이 알 수 없는 데이터를 분류할 수 없을 때 발생합니다. 훈련 데이터의 노이즈나 변동은 특징으로 처리되어 모델에 의해 학습됩니다. 그 결과 훈련 세트에서는 잘 수행되지만 검증 및 테스트 세트에서는 성능이 떨어지는 모델이 생성됩니다.

3. 검증 및 테스트 세트 측정항목에 대한 과도한 강조

검증 세트 측정항목은 모델 학습 경로를 결정하는 측정항목입니다. 각 에포크 후에 기계 학습 모델은 검증 세트에서 평가됩니다. 검증 세트 지표를 기반으로 해당 손실 항을 계산하고 하이퍼파라미터를 수정합니다. 모델 성능의 전반적인 궤적에 긍정적인 영향을 미칠 수 있도록 측정항목을 선택해야 합니다.

위 내용은 데이터 분할 기술 및 함정 - 훈련 세트, 검증 세트 및 테스트 세트를 사용하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!