机器学习决策树

决策树(DTs)是一种用于分类和回归的非参数有监督学习方法。其目标是创建一个模型，通过学习从数据特性中推断出的简单决策规则来预测目标变量的值。
决策树的一些优点：
1.易于理解和解释。树可以被可视化。
2.能够处理多输出问题。
3.使用白盒模型。如果给定的情况在模型中是可以观察到的，那么对条件的解释就很容易用布尔逻辑来解释。相反，在黑箱模型中(例如，在人工神经网络中)，结果可能很难解释。
4.可以使用统计测试验证模型。这样就有可能对模型的可靠性作出解释。
5.即使它的假设在某种程度上被生成数据的真实模型所违背，它也表现得很好。

DecisionTreeClassifier 是一个能够在数据集上执行多类分类的类。

from sklearn import tree
X = [[0, 0], [1, 1]]
Y = [0, 1]
clf = tree.DecisionTreeClassifier()
clf = clf.fit(X, Y)

clf.predict([[2., 2.]])
#输出：array([1])

clf.predict_proba([[2., 2.]])
#输出：array([[0., 1.]])

from sklearn.datasets import load_iris
from sklearn import tree
X, y = load_iris(return_X_y=True)
clf = tree.DecisionTreeClassifier()
clf = clf.fit(X, y)

from IPython.display import Image
import pydotplus
from sklearn import tree
# 可视化决策树
dot_data = tree.export_graphviz(clf, out_file=None,
                               filled=True, rounded=True,
                               special_characters=True)
graph = pydotplus.graph_from_dot_data(dot_data)
graph.write_png("out.png")

这篇好文章是转载于：学新通技术网