선형 회귀는 아마도 가장 널리 사용되는 기계 학습 알고리즘일 것입니다. 선형 회귀는 직선을 찾고 이 직선을 산점도의 데이터 점에 최대한 가깝게 맞추는 것입니다. 이 데이터에 직선 방정식을 맞춰 독립변수(x 값)와 수치 결과(y 값)를 표현하려고 합니다. 그러면 이 선을 사용하여 미래 가치를 예측할 수 있습니다!
이 알고리즘에 가장 일반적으로 사용되는 기술은 최소 제곱법입니다. 이 방법은 선의 각 데이터 점으로부터 수직 거리를 최소화하는 최적 맞춤 선을 계산합니다. 총 거리는 모든 데이터 포인트의 수직 거리(녹색 선)의 제곱의 합입니다. 아이디어는 이 제곱 오차 또는 거리를 최소화하여 모델을 맞추는 것입니다.
예를 들어 하나의 독립 변수(x축)와 하나의 종속 변수(y축)가 있는 단순 선형 회귀가 있습니다.
로지스틱 회귀는 선형 회귀와 유사하지만 출력이 이진일 때(즉, 결과가 두 개의 가능한 값만 가질 수 있는 경우) 사용됩니다. 최종 출력의 예측은 로지스틱 함수 g()라고 하는 비선형 시그모이드 함수입니다.
이 로지스틱 함수는 중간 결과 값을 값 범위가 0에서 1까지인 결과 변수 Y에 매핑합니다. 이 값은 Y가 발생할 확률로 해석될 수 있습니다. 시그모이드 로지스틱 함수의 속성으로 인해 로지스틱 회귀가 분류 작업에 더 적합해졌습니다.
공부 시간에 따른 시험 합격 확률을 보여주는 로지스틱 회귀 그래프입니다.
결정 트리는 회귀 및 분류 작업에 사용할 수 있습니다.
이 알고리즘에서 훈련 모델은 트리 표현의 결정 규칙을 학습하여 대상 변수의 값을 예측하는 방법을 학습합니다. 트리는 해당 속성을 가진 노드로 구성됩니다.
각 노드에서 사용 가능한 기능을 기반으로 데이터에 대해 질문합니다. 왼쪽과 오른쪽 가지는 가능한 답을 나타냅니다. 최종 노드(즉, 리프 노드)는 예측 값에 해당합니다.
각 기능의 중요성은 하향식 접근 방식을 통해 결정됩니다. 노드가 높을수록 해당 속성이 더 중요합니다.
식당에서 기다릴지 여부를 결정하는 결정 트리의 예.
나이브 베이즈(Naive Bayes)는 베이즈 정리를 기반으로 합니다. 이는 각 클래스의 확률, 즉 x 값이 주어진 각 클래스의 조건부 확률을 측정합니다. 이 알고리즘은 분류 문제에 사용되며 이진 예/아니요 결과를 생성합니다. 아래 방정식을 살펴보십시오.
나이브 베이즈 분류기는 스팸을 필터링하는 데 사용할 수 있는 널리 사용되는 통계 기법입니다!
SVM(지원 벡터 머신)은 분류 문제에 대한 지도 알고리즘입니다. 서포트 벡터 머신은 데이터 포인트 사이에 가장 큰 여백을 두고 두 개의 선을 그리려고 시도합니다. 이를 위해 데이터 항목을 n차원 공간의 점으로 표시합니다. 여기서 n은 입력 특성의 수입니다. 이를 기반으로 서포트 벡터 머신은 클래스 레이블별로 가능한 출력을 가장 잘 분리하는 초평면(hyperplane)이라는 최적의 경계를 찾습니다.
초평면과 가장 가까운 클래스 포인트 사이의 거리를 마진이라고 합니다. 최적의 초평면은 가장 가까운 데이터 포인트와 두 클래스 사이의 거리가 최대화되도록 포인트를 분류하는 마진이 가장 큽니다.
예를 들어 H1은 이 두 클래스를 구분하지 않습니다. 그러나 H2는 그렇습니다. 하지만 마진이 아주 작습니다. 그리고 H3은 가장 큰 마진으로 이들을 분리합니다.
K-최근접 이웃(KNN)은 매우 간단합니다. KNN은 전체 훈련 세트에서 K개의 가장 유사한 인스턴스 또는 K개의 이웃을 검색하고 이러한 모든 K개의 인스턴스에 공통 출력 변수를 할당하여 객체를 분류합니다.
K 선택이 중요합니다. 값이 작을수록 많은 노이즈가 발생하고 결과가 부정확할 수 있으며 값이 클수록 실행 불가능합니다. 분류에 가장 일반적으로 사용되지만 회귀 문제에도 적합합니다.
인스턴스 간의 유사성을 평가하는 데 사용되는 거리는 유클리드 거리, 맨해튼 거리 또는 민코프스키 거리일 수 있습니다. 유클리드 거리는 두 점 사이의 일반적인 직선 거리입니다. 실제로는 점 좌표의 차이 제곱합의 제곱근입니다.
▲KNN 분류 예
K-means(K-means)는 데이터 세트를 분류하여 클러스터링됩니다. 예를 들어, 이 알고리즘을 사용하여 구매 내역을 기반으로 사용자를 그룹화할 수 있습니다. 데이터 세트에서 K개의 클러스터를 찾습니다. K-평균은 비지도 학습에 사용되므로 훈련 데이터 X와 K를 식별하려는 클러스터 수만 사용하면 됩니다.
알고리즘은 각 데이터 포인트를 특성에 따라 K 그룹 중 하나에 반복적으로 할당합니다. 각 K 클러스터(중심이라고 함)에 대해 K 포인트를 선택합니다. 유사성을 기반으로 새 데이터 포인트가 중심이 가장 가까운 클러스터에 추가됩니다. 이 과정은 질량 중심의 변화가 멈출 때까지 계속됩니다.
Random Forest(Random Forest)는 매우 인기 있는 앙상블 기계 학습 알고리즘입니다. 이 알고리즘의 기본 아이디어는 한 개인의 의견보다 많은 사람들의 의견이 더 정확하다는 것입니다. 랜덤 포레스트에서는 의사결정 트리의 앙상블을 사용합니다(의사결정 트리 참조).
새로운 객체를 분류하기 위해 우리는 각 결정 트리에서 투표를 하고 결과를 결합한 후 다수결 투표에 따라 최종 결정을 내립니다.
훈련 과정에서 각 결정 트리는 훈련 세트의 부트스트랩 샘플을 기반으로 구축됩니다.
분류 과정에서 입력 인스턴스에 대한 결정은 다수결을 기준으로 이루어집니다.
오늘날 우리가 수집할 수 있는 데이터의 양이 너무 많아 기계 학습 문제는 더욱 복잡해졌습니다. 이는 훈련이 매우 느리고 좋은 솔루션을 찾는 것이 어렵다는 것을 의미합니다. 이 문제는 종종 "차원성의 저주"라고 불립니다.
차원 축소는 가장 중요한 정보를 잃지 않고 특정 기능을 상위 수준 기능으로 결합하여 이 문제를 해결하려고 시도합니다. 주성분 분석(PCA)은 가장 널리 사용되는 차원 축소 기술입니다.
주성분 분석은 데이터 세트를 저차원 선 또는 초평면/부분 공간으로 압축하여 데이터 세트의 차원성을 줄입니다. 이렇게 하면 원본 데이터의 두드러진 특징을 최대한 많이 보존할 수 있습니다.
차원 축소의 예는 모든 데이터 포인트를 직선으로 근사화하여 얻을 수 있습니다.
인공 신경망(ANN)은 크고 복잡한 기계 학습 작업을 처리할 수 있습니다. 신경망은 본질적으로 뉴런이라고 불리는 가중치가 부여된 가장자리와 노드로 구성된 상호 연결된 레이어 세트입니다. 입력 레이어와 출력 레이어 사이에 여러 개의 숨겨진 레이어를 삽입할 수 있습니다. 인공 신경망은 두 개의 숨겨진 레이어를 사용합니다. 그 외에도 딥러닝을 다루어야 합니다.
인공 신경망의 작동 원리는 뇌의 구조와 유사합니다. 뉴런 그룹에 무작위 가중치가 부여되어 뉴런이 입력 데이터를 처리하는 방법을 결정합니다. 입력과 출력 사이의 관계는 입력 데이터에 대한 신경망을 훈련하여 학습됩니다. 훈련 단계에서 시스템은 정답에 접근할 수 있습니다.
네트워크가 입력을 정확하게 인식하지 못하는 경우 시스템은 가중치를 조정합니다. 충분한 훈련을 거친 후에는 올바른 패턴을 지속적으로 인식하게 됩니다.
각 원형 노드는 인공 뉴런을 나타내고, 화살표는 한 인공 뉴런의 출력에서 다른 인공 뉴런의 입력으로의 연결을 나타냅니다.
다음은 무엇입니까? 이제 가장 널리 사용되는 기계 학습 알고리즘의 기본 사항을 배웠습니다. 이제 더 복잡한 개념을 배우고 심층적인 실습을 통해 이를 구현할 준비가 되었습니다. 이러한 알고리즘을 구현하는 방법을 배우고 싶다면 Educative의 Grokking 데이터 과학 과정에서 이러한 흥미로운 이론을 명확한 실제 응용 프로그램에 적용하십시오.
행복하게 공부하시길 바랍니다!
위 내용은 머신러닝에 대해 꼭 알아야 할, 꼭 알아야 할 알고리즘 10가지!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
