首页 > 其他分享> 文章详细

机器学习数学基础-4-线性代数基础

2022-07-19 20:03:35 阅读：149 来源： 互联网

标签：机器基础矩阵 cdots 线性代数 pmatrix end lambda vdots

线性代数基础

行列式

二元线性方程组的求解：

\[\begin{cases} a_{11}x_1+a_{12}x_2=b_1 \\ a_{21}x_1+a_{22}x_2=b_2 \end{cases} \]

当 \(a_{11}a_{22}-a_{12}a_{21}\not ={0}\) 时方程组由唯一解

二阶行列式：

将系数提取并记为：\(D =\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}\)

表达式 \(a_{11}a_{22}-a_{12}a_{21}\) 即为二阶行列式

\[D =\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix} =a_{11}a_{22}-a_{12}a_{21} \]

三阶行列式：

\[D =\begin{vmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{vmatrix} = \text{主对角线相乘相加} - \text{副对角线相乘相加} \]

行列式与矩阵的区别

行列式：

\[\begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{vmatrix} \]

行数等于列数
共有 \(n^2\) 个元素
行列式的结果是一个数值

矩阵：

\[\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix} \]

行数可以不等于列数
共有 \(m\times n\) 个元素
本质上就是一个数表

矩阵的特殊形式：

行向量与列向量：

\[(a_1\ a_2\ \cdots\ a_n)\qquad \begin{pmatrix} a_{1} \\ a_{2} \\ \vdots \\ a_{n} \end{pmatrix} \]

特殊矩阵

方阵：

行和列一样的就是方阵，一般叫做 \(n\) 阶方阵

\[A=A_{n\times n}=A_n= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix} =(a_{ij})_{n\times n} \]

上三角矩阵与下三角矩阵：

\[\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ 0 & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & a_{nn} \end{pmatrix} \qquad \begin{pmatrix} a_{11} & 0 & \cdots & 0 \\ a_{21} & a_{22} & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix} \]

对角矩阵和单位矩阵：

\[\begin{pmatrix} \lambda_1 & 0 & \cdots & 0 \\ 0 & \lambda_2 & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & \lambda_n \end{pmatrix} \qquad \begin{pmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & 1 \end{pmatrix} \qquad \]

矩阵同型和矩阵相等

同型矩阵：两个矩阵的行列数相同

矩阵相等：在同型的前提下，各位置元素也相等

矩阵的基本运算

矩阵加减法：

有两个 \(m\times n\) 的矩阵 \(A=(a_{ij}),\ B=(b_{ij})\)

\[A\pm B=(a_{ij}\pm B_{ij}) \]

矩阵数乘：

数乘运算，数 \(\lambda\) 与矩阵 \(A\) 的乘积

\[\lambda A=A\lambda= \begin{pmatrix} \lambda a_{11} & \lambda a_{12} & \cdots & \lambda a_{1n} \\ \lambda a_{21} & \lambda a_{22} & \cdots & \lambda a_{2n} \\ \vdots & \vdots & & \vdots \\ \lambda a_{m1} & \lambda a_{m2} & \cdots & \lambda a_{mn} \end{pmatrix} \]

矩阵乘法：

设矩阵 \(A\) 大小 \(m\times p\)，矩阵 \(B\) 大小 \(p\times n\)，那么其乘积为矩阵 \(C\)，大小 \(m\times n\)，记作 \(C=AB\)，其中元素 \(c_{ij}\) 可表示为：

\[C_{ij}=\sum_{k=1}^pa_{ik}b_{kj}=a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{ip}b_{pj} \]

矩阵乘法的性质：

矩阵乘法没有交换律：\(AB\not ={BA}\)
\((AB)C=A(BC)\)
\(\lambda(AB)=(\lambda A)B=A(\lambda B)\)
\(A(B+C)=AB+AC\)
\((B+C)A=BA+CA\)

矩阵表示方程组

\(A\) 为系数矩阵，\(X\) 是未知数矩阵，\(B\) 是常数矩阵：

\[\begin{cases} a_{11}x_1+a_{12}x_2+\cdots+a_{1n}x_n=b_1 \\ a_{21}x_1+a_{22}x_2+\cdots+a_{2n}x_n=b_2 \\ \cdots \\ a_{m1}x_1+a_{m2}x_2+\cdots+a_{mn}x_n=b_m \end{cases} \quad \text{即}\quad AX=B \]

其中：

\[A= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}\quad X= \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}\quad B= \begin{pmatrix} b_1 \\ b_2 \\ \vdots \\ b_m \end{pmatrix} \]

矩阵变换

矩阵转置：

即行列调换位置，矩阵 \(A\) 的转置记作 \(A^T\)

矩阵转置的性质：

\((A^T)^T=A\)
\((A+B)^T=A^T+B^T\)
\((\lambda A)^T=\lambda A^T\)
\((AB)^T=B^TA^T\ \Rightarrow\ (A_1A_2\cdots A_n)^T=A_n^T\cdots A_2^TA_1^T\)

对称矩阵：

如果满足 \(A^T=A\)，那么 \(A\) 就是对称矩阵

即要求 \(a_{ij}=a_{ji}\)

逆矩阵：

若 \(A\) 为 \(n\) 阶方阵，如果存在 \(n\) 阶方阵 \(B\)，使得 \(AB=BA=I\text{(单位阵)}\)

则称 \(B\) 是 \(A\) 的逆矩阵，记作 \(B=A^{-1}\)

逆矩阵的性质：

\((A^T)^{-1}=(A^{-1})^T\)
\((A^{-1})^{-1}=A\)
\((\lambda A)^{-1}=\frac{1}{\lambda}A^{-1}\)
\((AB)^{-1}=B^{-1}A^{-1}\)

矩阵的秩

对于一个 \(s\times n\) 的矩阵：

\[A= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{s1} & a_{s2} & \cdots & a_{sn} \end{pmatrix} \]

矩阵 \(A\) 的每一行可以看作一个 \(N\) 维向量：\(\alpha_i=(a_{i1},a_{i2},\cdots,a_{in}),\ i=1,2,\cdots,s\)

\(\alpha_1,\alpha_2,\cdots,\alpha_s\) 称为 \(A\) 的行向量

矩阵 \(A\) 的每一列可以看作一个 \(S\) 维向量：\(\beta_j=\begin{pmatrix}a_{1j}\\a_{2j}\\\vdots\\a_{sj}\end{pmatrix},\ j=1,2,\cdots,n\)

\(\beta_1,\beta_2,\cdots,\beta_n\) 称为 \(A\) 的列向量

其中行向量或列向量的极大线性无关组中向量的个数称为矩阵的秩

矩阵的行秩和列秩是相等的

向量的内积

设有 \(n\) 维向量：\(x=\begin{pmatrix}x_1\\x_2\\\cdots\\x_n\end{pmatrix},\ y=\begin{pmatrix}y_1\\y_2\\\cdots\\y_n\end{pmatrix}\)

记 \([x,y]=x_1y_1+x_2y_2+\cdots+x_ny_n\)，将 \([x,y]\) 叫做向量的内积

\[[x,y]=(x_1,x_2,\cdots,x_n)\begin{pmatrix}y_1\\y_2\\\cdots\\y_n\end{pmatrix}=x^Ty \]

内积的性质：

对称性：\([x,y]=[y,x]\)
线性性质：\([\lambda x,y]=\lambda[x,y]\)
线性性质：\([x+y,z]=[x,z]+[y,z]\)

向量的长度

\(n\) 维向量 \(x\) 的长度：\(||x||=\sqrt{[x,x]}=\sqrt{x_1^2+x_2^2+\cdots+x_n^2}\ge 0\)
当 \(||x||=1\) 称为单位向量
齐次性：\(||\lambda x||=|\lambda|\cdot||x||\)
三角不等式：\(||x+y||\le||x||+||y||\)

向量的正交

若两个向量 \(x\) 和 \(y\) 满足 \([x,y]=0\)，则称向量 \(x\) 和 \(y\) 正交
零向量与任何向量都正交
两两正交的非零向量组成的向量组称为正交向量组
若 \(a_1,a_2,\cdots,a_r\) 是两两正交的非零向量，则 \(a_1,a_2,\cdots,a_r\) 线性无关

规范正交基

\(n\) 维向量 \(e_1,e_2,\cdots,e_r\) 是向量空间 \(V\subset R^n\) 中的向量，满足

\(e_1,e_2,\cdots,e_r\) 是向量空间 \(V\) 中的一个基
\(e_1,e_2,\cdots,e_r\) 两两正交
\(e_1,e_2,\cdots,e_r\) 都是单位向量

则称 \(e_1,e_2,\cdots,e_r\) 是 \(V\) 的一个规范正交基

标签：机器,基础,矩阵,cdots,线性代数,pmatrix,end,lambda,vdots
来源： https://www.cnblogs.com/buzzing/p/16495524.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

ICode9