首页 » python机器学习 » python机器学习全文在线阅读

《python机器学习》13.2.1 逻辑斯谛函数概述

关灯直达底部

我们前面提到的逻辑斯谛函数,通常称作sigmoid函数,它实际上是sigmoid函数的一个特例。请回顾一下第3章中逻辑斯谛回归一节,在二类别分类任务中,我们使用逻辑斯谛函数对样本x属于正类别(类别1)的概率进行建模:

其中,标量z被定义为净输入:

其中,w0是偏置单元(当x0=1时在y轴上的截距)。再给出一个更为具体的例子:下列代码演示的是一个适用于二维数据点x的模型,其中w为模型的权重系数向量:

如果使用给定的特征值和权重系数来计算净输入,并用结果去激励逻辑斯谛神经元,我们将得到返回值0.707,意思就是给定的样本x属于正类的概率为70.7%。在第12章,我们使用独热编码技术计算包含多个逻辑斯谛激励单元的输出层的值。不过,正如下列示例代码所示,包含多个逻辑斯谛激励单元的输出层无法提供有意义、可解释的概率值:

正如输出结果所示,特定样本属于第一个类别的概率大概为88%,此样本属于第二个类别的概率约为58%,而它属于第三个类别的概率为90%。这明显让我们产生了疑惑:各类别的概率之和应该为100%。不过,实际上,比例的值在这里并非大问题,我们只是用模型来预测类标,而不用给出样本属于某个类别的概率。

不过,在某些情况下,在多类别分类中给出所属类别概率是非常有用的。在下一节,我们将介绍更一般化的逻辑斯谛函数——softmax函数,它可以在多类别分类任务中给出样本所属类别的概率。