ホームページ バックエンド開発 Python チュートリアル Pythonはデシジョンツリーアルゴリズムを実装します

Pythonはデシジョンツリーアルゴリズムを実装します

Apr 19, 2018 pm 04:50 PM
python

この記事の例では、Python でデシジョン ツリー アルゴリズムを実装する方法を説明します。参考として皆さんと共有してください。詳細は次のとおりです。

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

48

49

50

51

52

53

54

55

56

57

58

59

60

61

62

63

64

65

66

67

68

69

70

from sklearn.feature_extraction import DictVectorizer

import csv

from sklearn import tree

from sklearn import preprocessing

from sklearn.externals.six import StringIO

 

# 读取csv数据,并将数据和特征值存入字典和类标签列表

allElectronicsData = open(r'AllElectronics.csv', 'rt')

reader = csv.reader(allElectronicsData)

headers = next(reader)

# 原代码中用的是:

# headers = reader.next()

# 这句代码应该是之前的版本用的,现在已经更新了没有next这个函数

 

# print(headers)

 

featureList = []

labelList = []

 

for row in reader:

    labelList.append(row[len(row) - 1])

    rowDict = {}

    for i in range(1, len(row) - 1):

        rowDict[headers[i]] = row[i]

    featureList.append(rowDict)

 

# print(featureList)

 

 

# 将特征值矢量化,代表将各种参数进行矢量化

vec = DictVectorizer()

dummyX = vec.fit_transform(featureList).toarray()

 

# print("dummyX: " + str(dummyX))

# print(vec.get_feature_names())

 

# print("labelList: " + str(labelList))

 

# 将类标签列表矢量化,就是最后的结果

lb = preprocessing.LabelBinarizer()

dummyY = lb.fit_transform(labelList)

# print("dummyY: " + str(dummyY))

 

# 使用决策树进行分类

clf = tree.DecisionTreeClassifier()

# clf = tree.DecisionTreeClassifier(criterion = 'entropy')

clf = clf.fit(dummyX, dummyY)

# print("clf: " + str(clf))

 

# 将模型进行可视化

with open("allElectrionicInformationOri.dot", 'w') as f:

    f = tree.export_graphviz(clf, feature_names = vec.get_feature_names(), out_file = f)

 

oneRowX = dummyX[0, :]

# print("oneRowX: " + str(oneRowX))

 

# 接下来改变一些数据进行预测

newRowX = oneRowX

 

newRowX[0] = 0

newRowX[1] = 1

print("newRowX: " + str(newRowX))

 

predictedY = clf.predict(newRowX.reshape(1, -1))  # 预测的结果需要加上后面的reshape(1, -1),不然会

# 报错:

# ValueError: Expected 2D array, got 1D array instead:

# array=[0. 1. 1. 0. 1. 1. 0. 0. 1. 0.].

# Reshape your data either using array.reshape(-1, 1)

# if your data has a single feature or array.reshape(1, -1) if it contains a single sample.

print("预测的结果为: " + str(predictedY))

ログイン後にコピー


人々の購買力を分類してプロジェクトを分類する 最終プロセスでは、結果について特定の予測を行うこともできます。コードは上に示されていますが、いくつかの利点と欠点があります

決定木アルゴリズムの利点:

1) シンプルで直感的で、生成された決定木は非常に直感的です。

2)基本的には前処理の必要がなく、事前の正規化や欠損値への対応も必要ありません。

3) 決定木予測を使用するコストはO(log2) m) O(log2m)。 m はサンプル数です。

4)離散値と連続値の両方を扱うことができます。多くのアルゴリズムは、離散値または連続値のみに焦点を当てています。

5) 多次元出力の分類問題を扱える。

6) ニューラルネットワークなどのブラックボックス分類モデルと比較して、決定木は論理的によく説明できます

7) 交差検証枝刈りを使用してモデルを選択し、汎化能力を向上させることができます。

8) 異常箇所に対する耐障害性が高く、ロバスト性も高い。

決定木アルゴリズムの欠点を見てみましょう:

1) 決定木アルゴリズムは非常に簡単に過学習し、一般化能力が弱くなります。これは、ノードのサンプルの最小数を設定し、決定木の深さを制限することで改善できます。

2) 決定木はサンプルのわずかな変化により木構造に大きな変化を引き起こします。これはアンサンブル学習などの手法で解決できます。

3) 最適な決定木を見つけることは NP 困難な問題であり、通常はヒューリスティックな手法を使用しており、局所最適性に陥りやすいです。これはアンサンブル学習などの方法で改善できます。

4) 決定木が XOR などのより複雑な関係を学習することは困難です。一般に、この関係はニューラル ネットワーク分類法を使用して解決できます。

5) 特定の特徴のサンプル割合が大きすぎる場合、生成される決定木はこれらの特徴に偏る傾向があります。これはサンプルの重みを調整することで改善できます。


関連する推奨事項:

上位 10 のデータ マイニング アルゴリズムのデシジョン ツリーの詳細な説明

デシジョン ツリー アルゴリズム

アルゴリズムの原則と事例

デシジョンツリーアルゴリズムの実装

以上がPythonはデシジョンツリーアルゴリズムを実装しますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットな記事タグ

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Deepseek Xiaomiをダウンロードする方法 Deepseek Xiaomiをダウンロードする方法 Feb 19, 2025 pm 05:27 PM

Deepseek Xiaomiをダウンロードする方法

テンプレートのメリットとデメリットは何ですか? テンプレートのメリットとデメリットは何ですか? May 08, 2024 pm 03:51 PM

テンプレートのメリットとデメリットは何ですか?

Google AI、開発者向けに Gemini 1.5 Pro と Gemma 2 を発表 Google AI、開発者向けに Gemini 1.5 Pro と Gemma 2 を発表 Jul 01, 2024 am 07:22 AM

Google AI、開発者向けに Gemini 1.5 Pro と Gemma 2 を発表

わずか 250 ドルで、Hugging Face のテクニカル ディレクターが Llama 3 を段階的に微調整する方法を教えます わずか 250 ドルで、Hugging Face のテクニカル ディレクターが Llama 3 を段階的に微調整する方法を教えます May 06, 2024 pm 03:52 PM

わずか 250 ドルで、Hugging Face のテクニカル ディレクターが Llama 3 を段階的に微調整する方法を教えます

いくつかの .NET オープンソース AI および LLM 関連プロジェクト フレームワークを共有する いくつかの .NET オープンソース AI および LLM 関連プロジェクト フレームワークを共有する May 06, 2024 pm 04:43 PM

いくつかの .NET オープンソース AI および LLM 関連プロジェクト フレームワークを共有する

golang 関数のデバッグと分析の完全ガイド golang 関数のデバッグと分析の完全ガイド May 06, 2024 pm 02:00 PM

golang 関数のデバッグと分析の完全ガイド

どうやって彼にdeepseekに尋ねますか どうやって彼にdeepseekに尋ねますか Feb 19, 2025 pm 04:42 PM

どうやって彼にdeepseekに尋ねますか

評価関数の保存方法 評価関数の保存方法 May 07, 2024 am 01:09 AM

評価関数の保存方法

See all articles