1. 感知机
感知器模型的输出可以用如下数学方式表示:
y^=sign(wdxd+wd−1xd−1+⋯+w2x2+w1x1−t)=sign(wdxd+wd−1xd−1+⋯+w2x2+w1x1+w0x0)=sign(w⋅x)
其中,w0=−t,x0=1
注:该公式所描述的感知器模型关于参数w和属性x是线性的
学习感知机模型
算法主要计算的是第7步中的权值更新公式:
wj(k+1=wjk+λ(yi−yi(k)^)xij
w(k)是第 k 次循环后第 i 个输入链上的权值,参数λ称为学习率,xij是训练样例xi的第 j 个属性
如果λ接近0,那么新权值主要受旧权值的影响;相反,如果λ接近1,则新权值对当前循环中的调整量更加敏感。在某些情况下,可以使用一个自适应的λ值:λ在前几次循环时相对较大,而在接下来的循环中逐渐减小