首页 » 机器学习实战 » 机器学习实战全文在线阅读

《机器学习实战》3.2 在Python中使用Matplotlib注解绘制树形图

关灯直达底部

上节我们已经学习了如何从数据集中创建树,然而字典的表示形式非常不易于理解,而且直接绘制图形也比较困难。本节我们将使用Matplotlib库创建树形图。决策树的主要优点就是直观易于理解,如果不能将其直观地显示出来,就无法发挥其优势。虽然前面章节我们使用的图形库已经非常强大,但是Python并没有提供绘制树的工具,因此我们必须自己绘制树形图。本节我们将学习如何编写代码绘制如图3-3所示的决策树。

图3-3 决策树的范例

3.2.1 Matplotlib注解

Matplotlib提供了一个注解工具annotations,非常有用,它可以在数据图形上添加文本注释。注解通常用于解释数据的内容。由于数据上面直接存在文本描述非常丑陋,因此工具内嵌支持带箭头的划线工具,使得我们可以在其他恰当的地方指向数据位置,并在此处添加描述信息,解释数据内容。如图3-4所示,在坐标(0.2, 0.1)的位置有一个点,我们将对该点的描述信息放在(0.35, 0.3)的位置,并用箭头指向数据点(0.2, 0.1)。

图3-4 Matplotlib注解示例

绘制还是图形化

为什么使用单词“绘制”(plot)?为什么在讨论如何在图形上显示数据的时候不使用单词“图形化”(graph)?这里存在一些语言上的差别,英语单词graph在某些学科中具有特定的含义,如在应用数学中,一系列由边连接在一起的对象或者节点称为图。节点的任意联系都可以通过边来连接。在计算机科学中,图是一种数据结构,用于表示数学上的概念。好在汉语并不存在这些混淆的概念,这里就统一使用绘制树形图。

本书将使用Matplotlib的注解功能绘制树形图,它可以对文字着色并提供多种形状以供选择,而且我们还可以反转箭头,将它指向文本框而不是数据点。打开文本编辑器,创建名为treePlotter.py的新文件,然后输入下面的程序代码。

程序清单3-5 使用文本注解绘制树节点

import matplotlib.pyplot as plt#❶ (以下三行)定义文本框和箭头格式decisionNode = dict(box, fc=/"0.8/")leafNode = dict(box, fc=/"0.8/")arrow_args = dict(arrow)#❷ (以下两行)绘制带箭头的注解def plotNode(nodeTxt, centerPt, parentPt, nodeType):    createPlot.ax1.annotate(nodeTxt, xy=parentPt,xycoords=/'axes fraction/',     xytext=centerPt, textcoords=/'axes fraction/',    va=/"center/", ha=/"center/", bbox=nodeType, arrowprops=arrow_args)def createPlot:    fig = plt.figure(1, facecolor=/'white/')    fig.clf    reatePlot.ax1 = plt.subplot(111, frameon=False)    plotNode(/'决策节点/', (0.5, 0.1), (0.1, 0.5), decisionNode)    plotNode(/'叶节点/', (0.8, 0.1), (0.3, 0.8), leafNode)    plt.show  

这是第一个版本的createPlot函数,与例子文件中的createPlot函数有些不同,随着内容的深入,我们将逐步添加缺失的代码。代码定义了树节点格式的常量❶。然后定义plotNode函数执行了实际的绘图功能,该函数需要一个绘图区,该区域由全局变量createPlot.ax1定义。Python语言中所有的变量默认都是全局有效的,只要我们清楚知道当前代码的主要功能,并不会引入太大的麻烦。最后定义createPlot函数,它是这段代码的核心。createPlot函数首先创建了一个新图形并清空绘图区,然后在绘图区上绘制两个代表不同类型的树节点,后面我们将用这两个节点绘制树形图。

为了测试上面代码的实际输出结果,打开Python命令提示符,导入treePlotter模块:

>>> import treePlotter>>> treePlotter.createPlot  

程序的输出结果如图3-5所示,我们也可以改变函数plotNode❷,观察图中xy位置如何变化。

图3-5 函数plotNode的例子

现在我们已经掌握了如何绘制树节点,下面将学习如何绘制整棵树。

3.2.2 构造注解树

绘制一棵完整的树需要一些技巧。我们虽然有xy坐标,但是如何放置所有的树节点却是个问题。我们必须知道有多少个叶节点,以便可以正确确定x轴的长度;我们还需要知道树有多少层,以便可以正确确定y轴的高度。这里我们定义两个新函数getNumLeafsgetTreeDepth ,来获取叶节点的数目和树的层数,参见程序清单3-6,并将这两个函数添加到文件treePlotter.py中。

程序清单3-6 获取叶节点的数目和树的层数

def getNumLeafs(myTree):    numLeafs = 0    firstStr = myTree.keys[0]    secondDict = myTree[firstStr]    for key in secondDict.keys:       #❶ (以下三行)测试节点的数据类型是否为字典        if type(secondDict[key]).__name__==/'dict/':            numLeafs += getNumLeafs(secondDict[key])        else:   numLeafs +=1    return numLeafsdef getTreeDepth(myTree):    maxDepth = 0    firstStr = myTree.keys[0]    secondDict = myTree[firstStr]    for key in secondDict.keys:        if type(secondDict[key]).__name__==/'dict/':            thisDepth = 1 + getTreeDepth(secondDict[key])        else:   thisDepth = 1        if thisDepth > maxDepth: maxDepth = thisDepth    return maxDepth  

上述程序中的两个函数具有相同的结构,后面我们也将使用到这两个函数。这里使用的数据结构说明了如何在Python字典类型中存储树信息。第一个关键字是第一次划分数据集的类别标签,附带的数值表示子节点的取值。从第一个关键字出发,我们可以遍历整棵树的所有子节点。使用Python提供的type函数可以判断子节点是否为字典类型❶。如果子节点是字典类型,则该节点也是一个判断节点,需要递归调用getNumLeafs函数。getNumLeafs函数遍历整棵树,累计叶子节点的个数,并返回该数值。第2个函数getTreeDepth计算遍历过程中遇到判断节点的个数。该函数的终止条件是叶子节点,一旦到达叶子节点,则从递归调用中返回,并将计算树深度的变量加一。为了节省大家的时间,函数retrieveTree输出预先存储的树信息,避免了每次测试代码时都要从数据中创建树的麻烦。

添加下面的代码到文件treePlotter.py中:

def retrieveTree(i):    listOfTrees =[{/'no surfacing/': {0: /'no/', 1: {/'flippers/':                     {0: /'no/', 1: /'yes/'}}}},                  {/'no surfacing/': {0: /'no/', 1: {/'flippers/':                     {0: {/'head/': {0: /'no/', 1: /'yes/'}}, 1: /'no/'}}}}                  ]    return listOfTrees[i]    

保存文件treePlotter.py,在Python命令提示符下输入下列命令:

>>> reload(treePlotter)<module /'treePlotter/' from /'treePlotter.py/'>>>> treePlotter.retrieveTree (1){/'no surfacing/': {0: /'no/', 1: {/'flippers/': {0: {/'head/': {0: /'no/', 1:      /'yes/'}}, 1: /'no/'}}}}</pre>>>> myTree = treePlotter.retrieveTree (0)>>> treePlotter.getNumLeafs(myTree)3>>> treePlotter.getTreeDepth(myTree)2   

函数retrieveTree主要用于测试,返回预定义的树结构。上述命令中调用getNumLeafs函数返回值为3,等于树0的叶子节点数;调用getTreeDepths函数也能够正确返回树的层数。

现在我们可以将前面学到的方法组合在一起,绘制一棵完整的树。最终的结果如图3-6所示,但是没有xy轴标签。

图3-6 简单数据集绘制的树形图

打开文本编辑器,将程序清单3-7的内容添加到treePlotter.py文件中。注意,前文已经在文件中定义了函数createPlot,此处我们需要更新这部分代码。

程序清单3-7 plotTree函数

#❶ (以下四行)在父子节点间填充文本信息def plotMidText(cntrPt, parentPt, txtString):    xMid = (parentPt[0]-cntrPt[0])/2.0 + cntrPt[0]    yMid = (parentPt[1]-cntrPt[1])/2.0 + cntrPt[1]    createPlot.ax1.text(xMid, yMid, txtString, va=/"center/", ha=/"center/", rotation=30)def plotTree(myTree, parentPt, nodeTxt):    #❷(以下两行)计算宽和高    numLeafs = getNumLeafs(myTree)      depth = getTreeDepth(myTree)    firstStr = myTree.keys[0]         cntrPt = (plotTree.xOff + (1.0 + float(numLeafs))/2.0/plotTree.totalW, plotTree.yOff)    #❸ 标记子节点属性值    plotMidText(cntrPt, parentPt, nodeTxt)    plotNode(firstStr, cntrPt, parentPt, decisionNode)    secondDict = myTree[firstStr]    #❹(以下两行)减小y偏移    plotTree.yOff = plotTree.yOff - 1.0/plotTree.totalD    for key in secondDict.keys:        if type(secondDict[key]).__name__==/'dict/':            plotTree(secondDict[key],cntrPt,str(key))        #recursion    else:           plotTree.xOff = plotTree.xOff + 1.0/plotTree.totalW        plotNode(secondDict[key], (plotTree.xOff, plotTree.yOff),, cntrPt, leafNode)        plotMidText((plotTree.xOff, plotTree.yOff), cntrPt, str(key))    plotTree.yOff = plotTree.yOff + 1.0/plotTree.totalDdef createPlot(inTree):    fig = plt.figure(1, facecolor=/'white/')    fig.clf    axprops = dict(xticks=, yticks=)    createPlot.ax1 = plt.subplot(111, frameon=False, **axprops)        plotTree.totalW = float(getNumLeafs(inTree))    plotTree.totalD = float(getTreeDepth(inTree))    plotTree.xOff = -0.5/plotTree.totalW; plotTree.yOff = 1.0;    plotTree(inTree, (0.5,1.0), /'/')    plt.show 

函数createPlot是我们使用的主函数,它调用了plotTree,函数plotTree又依次调用了前面介绍的函数和plotMidText。绘制树形图的很多工作都是在函数plotTree中完成的,函数plotTree首先计算树的宽和高❷。全局变量plotTree.totalW存储树的宽度,全局变量plotTree.totalD存储树的深度,我们使用这两个变量计算树节点的摆放位置,这样可以将树绘制在水平方向和垂直方向的中心位置。与程序清单3-6中的函数getNumLeafsgetTreeDepth类似,函数plotTree也是个递归函数。树的宽度用于计算放置判断节点的位置,主要的计算原则是将它放在所有叶子节点的中间,而不仅仅是它子节点的中间。同时我们使用两个全局变量plotTree.xOffplotTree.yOff追踪已经绘制的节点位置,以及放置下一个节点的恰当位置。另一个需要说明的问题是,绘制图形的x轴有效范围是0.0到1.0,y轴有效范围也是0.0~1.0。为了方便起见,图3-6给出具体坐标值,实际输出的图形中并没有xy坐标。通过计算树包含的所有叶子节点数,划分图形的宽度,从而计算得到当前节点的中心位置,也就是说,我们按照叶子节点的数目将x轴划分为若干部分。按照图形比例绘制树形图的最大好处是无需关心实际输出图形的大小,一旦图形大小发生了变化,函数会自动按照图形大小重新绘制。如果以像素为单位绘制图形,则缩放图形就不是一件简单的工作。

接着,绘出子节点具有的特征值,或者沿此分支向下的数据实例必须具有的特征值❸。使用函数plotMidText计算父节点和子节点的中间位置,并在此处添加简单的文本标签信息❶。

然后,按比例减少全局变量plotTree.yOff,并标注此处将要绘制子节点❹,这些节点既可以是叶子节点也可以是判断节点,此处需要只保存绘制图形的轨迹。因为我们是自顶向下绘制图形,因此需要依次递减y坐标值,而不是递增y坐标值。然后程序采用函数getNumLeafsgetTreeDepth以相同的方式递归遍历整棵树,如果节点是叶子节点则在图形上画出叶子节点,如果不是叶子节点则递归调用plotTree函数。在绘制了所有子节点之后,增加全局变量Y的偏移。

程序清单3-7的最后一个函数是createPlot,它创建绘图区,计算树形图的全局尺寸,并调用递归函数plotTree

现在我们可以验证一下实际的输出效果。添加上述代码到文件treePlotter.py之后,在Python命令提示符下输入下列命令:

>>> reload(treePlotter)<module /'treePlotter/' from /'treePlotter.pyc/'>>>> myTree=treePlotter.retrieveTree (0)>>> treePlotter.createPlot(myTree)  

输出效果如图3-6所示,但是没有坐标轴标签。接着按照如下命令变更字典,重新绘制树形图:

>>> myTree[/'no surfacing/'][3]=/'maybe/'>>> myTree{/'no surfacing /': {0: /'no/', 1: {/'flippers/': {0: /'no/', 1: /'yes/'}}, 3:    /'maybe/'}}>>> treePlotter.createPlot(myTree)  

输出效果如图3-7所示,有点像一个无头的简笔画。你也可以在树字典中随意添加一些数据,并重新绘制树形图观察输出结果的变化。

到目前为止,我们已经学习了如何构造决策树以及绘制树形图的方法,下节我们将实际使用这些方法,并从数据和算法中得到某些新知识。

图3-7 超过两个分支的树形图