> 백엔드 개발 > 파이썬 튜토리얼 > 데이터 이해: 탐색적 데이터 분석의 필수 요소.

데이터 이해: 탐색적 데이터 분석의 필수 요소.

王林
풀어 주다: 2024-08-13 10:08:03
원래의
907명이 탐색했습니다.

소개
기계 학습 모델, 시각화 개발 및 사용자 친화적인 애플리케이션 통합의 결과로 데이터에 대해 갖고 있는 최종 목표를 기반으로 프로젝트 시작 시 데이터에 대한 유창함을 개발하면 최종 성공이 더욱 강화될 것입니다.
EDA 필수사항
여기서는 데이터 전처리의 필요성이 데이터 분석가에게 어떻게 유익한지 배울 수 있습니다.
그 방대함과 다양한 소스로 인해 오늘날의 데이터는 비정상일 가능성이 높습니다. 고품질 데이터를 통해 더욱 강력한 모델과 예측이 가능해지기 때문에 데이터 전처리는 데이터 과학 분야의 기초 단계가 되었습니다.
탐색적 데이터 분석은 공식적인 모델링이나 가정 테스트 작업 외부에 어떤 데이터가 노출될 수 있는지 확인하는 데이터 과학자의 도구입니다.
데이터 과학자는 신뢰할 수 있는 결과를 보장하고 영향을 받은 결과와 목표에 적용할 수 있도록 항상 EDA를 수행해야 합니다. 또한 과학자와 분석가가 원하는 결과를 달성하기 위해 올바른 방향으로 나아가고 있는지 확인하는 데 도움이 됩니다.
연구를 안내하는 연구 질문의 예는 다음과 같습니다.
1.데이터 전처리의 중요한 효과가 있습니까
결측값, 값의 합산, 데이터 필터링, 이상값, 변수 변환, 변수 감소 등 분석 접근 방식을 통해 정확한 데이터 분석 결과를 얻을 수 있을까요?
2. 연구에서 전처리 데이터 분석은 어느 정도 수준에서 필요합니까?
탐색적 데이터 분석 지표와 중요성
1.데이터 필터링
이는 데이터세트에서 더 작은 부분을 선택하고 해당 하위 집합을 보거나 분석하는 데 사용하는 방식입니다. 전체 데이터 세트는 유지되지만 그 중 일부만 계산에 사용됩니다. 필터링은 일반적으로 임시 절차입니다. 연구에서 부정확하거나 부정확하거나 하위 수준의 관찰 결과를 발견하는 것, 특정 관심 그룹에 대한 데이터를 추출하는 것, 특정 기간에 대한 정보를 찾는 것 등은 모두 필터를 사용하여 요약할 수 있습니다. 데이터 과학자는 필터링 중에 연구 사례를 추출하기 위해 규칙이나 논리를 지정해야 합니다.

2.데이터 집계
데이터 집계를 위해서는 처리되지 않은 데이터를 단일 위치로 수집하고 분석을 위해 요약해야 합니다. 데이터 집계는 데이터의 정보성, 실용적, 유용성을 높입니다. 기술 사용자의 관점은 종종 문구를 정의하는 데 사용됩니다. 데이터 집계는 분석가나 엔지니어의 입장에서 많은 데이터베이스나 데이터 소스의 처리되지 않은 데이터를 중앙 집중식 데이터베이스에 통합하는 프로세스입니다. 그런 다음 원시 데이터를 결합하여 집계 숫자가 생성됩니다. 합계 또는 평균은 집계 값을 간단하게 표현한 것입니다. 집계된 데이터는 분석, 보고, 대시보드 및 기타 데이터 제품에 사용됩니다. 데이터 집계를 통해 생산성, 의사 결정 및 통찰력 확보 시간을 높일 수 있습니다.

3.데이터 누락
데이터 분석에서 누락된 값은 누락의 또 다른 이름입니다
데이터. 특정 변수나 응답자를 생략하거나 생략할 때 발생합니다. 잘못된 데이터 입력, 파일 손실 또는 기술 손상으로 인해 누락이 발생할 수 있습니다. 데이터가 누락되면 해당 유형에 따라 간헐적으로 모델 편향이 발생하여 문제가 발생할 수 있습니다. 누락된 데이터는 데이터가 때때로 오해의 소지가 있는 표본에서 나올 수 있으므로 결과가 연구 매개변수 내에서만 일반화될 수 있음을 의미합니다. 전체 데이터 세트의 일관성을 보장하려면 모든 누락된 값을 "N/A"("해당 사항 없음"의 약어) 레이블로 다시 코딩해야 합니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.
4.데이터 변환
함수 또는 기타 수학적 방법을 사용하여 데이터 크기를 조정합니다
변환 중 각 관찰에 대한 작업입니다. 우리
모델링이 더 쉽도록 때때로 데이터를 변경합니다
매우 크게 편향되어 있습니다(긍정적으로든 부정적으로든).
즉, 다음과 같은 경우에는 모수적 통계검정을 적용한다는 가정에 맞게 데이터 변환을 시도해야 합니다.
변수가 정규 분포에 맞지 않습니다. 가장 널리 사용되는 데이터 변환은 로그(또는 자연 로그)입니다. 이는 모든 관측치가 양수이고 대부분의 데이터 값이 데이터 세트에서 더 중요한 값과 관련하여 0 주위에 모일 때 자주 사용됩니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.
다이어그램 그림

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.

EDA의 시각화 기법
시각화 기술은 EDA에서 필수적인 역할을 하며 복잡한 데이터 구조와 관계를 시각적으로 탐색하고 이해할 수 있도록 해줍니다. EDA에 사용되는 몇 가지 일반적인 시각화 기술은 다음과 같습니다.
1.히스토그램:
히스토그램은 수치 변수의 분포를 보여주는 그래픽 표현입니다. 빈도 분포를 시각화하여 데이터의 중심 경향과 확산을 이해하는 데 도움이 됩니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.
2.상자 도표: 상자 도표는 수치 변수의 분포를 보여주는 그래프입니다. 이 시각화 기술은 사분위수를 시각화하여 이상값을 식별하고 데이터의 확산을 이해하는 데 도움이 됩니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.
3.히트맵: 색상이 값을 나타내는 데이터를 그래픽으로 표현한 것입니다. 복잡한 데이터 세트를 표시하는 데 자주 사용되며, 대량 데이터의 패턴과 추세를 빠르고 쉽게 시각화할 수 있는 방법을 제공합니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.

4.막대 차트: 막대 차트는 범주형 변수의 분포를 보여주는 그래프입니다. 데이터의 빈도 분포를 시각화하는 데 사용되며, 이는 각 범주의 상대 빈도를 이해하는 데 도움이 됩니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.
5.선형 차트: 선 차트는 시간에 따른 숫자 변수의 추세를 보여주는 그래프입니다. 시간에 따른 데이터의 변화를 시각화하고 패턴이나 추세를 식별하는 데 사용됩니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.
5.파이 차트: 파이 차트는 범주형 변수의 비율을 보여주는 그래프입니다. 각 카테고리의 상대적인 비율을 시각화하고 데이터 분포를 이해하는 데 사용됩니다.

UNDERSTANDING YOUR DATA:THE ESSENTIALS OF EXPLORATORY DATA ANALYSIS.

위 내용은 데이터 이해: 탐색적 데이터 분석의 필수 요소.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

원천:dev.to
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿