线性判别分析(机器学习)
创始人
2024-01-31 12:01:52
0

目录

线性判别分析的原理

LDA的降维过程如下



 线性判别分析(LDA) 是一种有监督的线性降维算法。

与PCA不同,LDA是为了使降维后的数据点尽可能地容易被区分

线性判别分析的原理


线性判别分析是对于给定的训练集,设法将样本投影到一条直线上,使得同类的投影点尽可能接近,异类样本的投影点尽可能远离;

在对新样本进行分类时,将其投影到这条直线上,再根据投影点的位置来确定新样本的类别。

PCA主要是从特征的协方差角度,去找到比较好的投影方式。

LDA更多地考虑了标注,即希望投影后不同类别之间数据点的距离更大,同一类别的数据点更紧凑

LDA的降维过程如下


计算数据集中每个类别下所有样本的均值向量

通过均值向量,计算类间散布矩阵 𝑆𝐵 和类内散布矩阵𝑆𝑊

依据公式𝑆𝑊 ^1 * 𝑆𝐵 *𝑈 𝜆𝑈 进行特征值求解,计算𝑆𝑊^−1 * 𝑆𝐵的特征向量和特征值

按照特征值排序, 选择前k个特征向量构成投影矩阵U

           通过 Y = X × U 的特征值矩阵将所有样本转换到新的子空间中

 

 

相关内容

热门资讯

​股东用利润增资要交个税吗 股东用利润增资要交个税吗企业股东以利润转增资是否需要交所得税,取决于股东的类型及具体税务法规,一般来...
数读中国开局新活力 | 消费增...   编者按:2026年是“十五五”开局之年。内需市场潜力持续释放,消费新场景不断涌现,文旅融合、冰雪...
“最快女护士”张水华回应辞职:... 近日,九派新闻记者对张水华进行了采访,这也是张水华辞职后的首次采访。 自从去年因言论陷入舆论漩涡并最...
​一般纳税人进项税额抵扣期限 一般纳税人进项税额抵扣期限一般纳税人的进项抵扣确实存在时间限制。根据相关法律规定及税务部门的解释,具...
打破先天性疾病限制,达尔文宝贝... 很多人以为,先天性疾病属于保险的“绝对禁区”,所有重疾险都会直接免责。现实也确实如此,长期以来,绝大...
科学量化“绿水青山”生态价值有...   新华社北京1月13日电(记者赵文君)记者13日从市场监管总局获悉,《生态系统评估 陆域生态产品总...
长期医疗险 ,精准对接多元医疗... 先琢磨第一个矛盾:保障的稳定性。谁都怕生病,更怕生病后买不到医疗险。一年期医疗险看似便宜,却藏着“续...
​餐费补贴需要缴纳个人所得税吗 餐费补贴需要缴纳个人所得税吗企业对员工的餐费补贴是否需要缴纳个人所得税,主要取决于补贴的发放形式和管...
锚定国家战略,新华保险徽州康养... 很多人以为康养基地就是“高端养老院”,靠收床位费盈利。但对锚定国家战略、立志树立标杆的新华保险徽州康...
全球瞭望|马中合作助力马来西亚...   新华社吉隆坡1月13日电(记者王嘉伟)马来西亚拉曼理工大学学者贾斯蒂娜·约瑟夫·杰亚拉杰日前在马...