1.估计概率密度p(x|wi)
(1)贝叶斯决策
(2)P(wi)和p(x | wi)的估计方法
①先验概率P(wi)估计:
用训练数据中各类出现的频率估计。
依靠经验。
② 类条件概率密度函数p(x | wi)估计,2类方法:
参数估计:最大似然估计,贝叶斯估计。
非参数估计:
直方图估计,核密度估计(Kernel Density Estimation,KDE,又名Parzen窗),Kn近邻估计。
神经网络方法。
(3)基于样本的两步贝叶斯分类器设计
step1:利用样本集估计P(wi)和p(x | wi)
step2:贝叶斯决策(代入贝叶斯公式,比较后验概率)
2.监督学习&参数估计
(1)监督学习&无监督学习
监督学习:已知样本类别。参数估计和非参数估计都属于监督学习。eg:线性回归。
无监督学习:不知道样本类别。eg:聚类。
(2)参数估计&非参数估计
参数估计:已知样本类别和函数模型(假设一个模型),根据样本估计模型中的未知参数。
非参数估计:已知样本类别,未知函数模型(不假设模型),直接从样本中学习估计模型。
3.参数估计理论
(1)概念
(2)参数估计的评价
①参数估计要求估计总体分布的具体参数,显然是点估计的问题。
②评价一个估计的好坏,需要从平均和方差的角度出发分析。统计学中做了很多关于估计量性质的定义:
4.最大似然估计、贝叶斯估计、贝叶斯学习之间的关系
参考:
https://blog.csdn.net/unixtch/article/details/78556499
https://wenku.baidu.com/view/1cf9639efab069dc502201fe.html
https://blog.csdn.net/drrlalala/article/details/45533821
《模式识别-张学工》
标签:参数估计,样本,wi,贝叶斯,学习,估计 来源: https://www.cnblogs.com/sybil-hxl/p/12803244.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。