6. LDA
思想：LDA是一种监督学习的(线性)降维技术，即数据集中每个样本都有类别标签，这点和PCA不同。PCA是不考虑样本类别标签的无监督(线性)降维技术。LDA的主要思想就是“投影后类内方差最小，类间方差最大”。即，将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距离尽可能的大。
区别：
1）LDA是有监督的降维方法，而PCA是无监督的降维方法
2）LDA降维最多降到类别数k-1的维数，而PCA没有这个限制。
3）LDA除了可以用于降维，还可以用于分类。
4）LDA选择分类性能最好的投影方向，而PCA选择样本点投影具有最大方差的方向。
适用于样本有类别标签、样本分布服从高斯分布、样本分类信息依赖于均值而不是方差的情况。
基于的假设和不足之处：
1）每一类都是单模态的高斯分布。
2）每一类的协方差矩阵都相同。
3）降维维数不能超过类别数k-1
无法处理多模态高斯分布，每一类协方差矩阵不同的情形；当降维维数大于类别数k-1时，LDA无法使用。
标签：LDA,样本,投影,降维,类别,PCA 来源： https://blog.csdn.net/sdu_hao/article/details/103846136
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。