基础数学

线性代数 高等数学 概率统计

Posted by aptx1231 on February 8, 2021
字数统计:2305 | 阅读时长:7min

基础数学

行列式

1612685191772

1612685216062

向量内积 外积

内积/点积/数量积

【结果是一个数量】

1612685446413

外积/叉积/向量积

【结果是一个向量】

1612685674976

1612685826718

1612685833810

1612686426898

1612685899766

1612685946944

逆矩阵

1612748896523

1612748918582

1612748960916

1612748984630

1612749010320

1612749022235

1612749030261

1612749043596

特征值 特征向量

定义

1612599307704

1612599409018

1612599476653

1612599486678

1612599537546

1612599714829

【n阶矩阵有n个特征值(算重根),因为n阶矩阵的特征多项式是n阶的】

性质

1612599811389

1612599860651

1612599877365

1612599906216

1612599914226

1612599971217

1612600014686

1612600045780

相似矩阵

1612600163869

1612600201836

1612600246280

1612600258751

1612600282214

1612600320885

矩阵的相似对角化

1612600380613

1612600530952

1612601862239

1612601881409

步骤:

  • 求特征值和特征向量
  • 如果求出了n个线性无关的特征向量,那么由这n个向量组成的矩阵做Q,则A可以跟对角矩阵相似,且这个对角矩阵就是这n个特征向量对应的n个特征值(可以有重根)构成的对角矩阵

施密特正交化

1612613823637

1612613886766

1612613892388

【最后还需要化成单位向量】

正交矩阵

1612614144349

1612614208613

1612614218908

1612614225326

1612614282852

【行向量/列向量是两两正交的单位向量】

实对称矩阵

特征值与特征向量

1612613949817

1612613965743

相似对角化

实对称矩阵一定能相似对角化

1612614111835

步骤:

  • 求特征值和特征向量
  • 属于同一特征值的线性无关的特征向量要进行施密特正交化得到标准正交向量组
  • 其他的特征向量也需要单位化
  • 用所有的标准正交向量做列向量构成Q,则A可以跟对角矩阵相似,且这个对角矩阵就是这n个特征向量对应的n个特征值(可以有重根)构成的对角矩阵。【Q就是归一化之后的特征向量构成的矩阵】

合同矩阵

1612614917957

1612614956183

1612615008842

【A是对称矩阵,则B也是对称矩阵】

二次型

定义

1612614817777

1612614831470

1612615081393

可逆线性变换

1612614847565

1612614865687

1612615044800

【二次型进行可逆线性变换,相当于二次型对应的矩阵在进行合同变换,变换前后的矩阵合同】

标准二次型

1612615094985

1612615207922

实二次型

正交合同变换

对于实二次型,矩阵是实对称矩阵,而实对称矩阵都能相似对角化,所以

1612615479845

1612621212574

1612621227551

惯性定理

1612621352189

1612621360018

1612621392382

1612621407932

1612621443544

1612621504713

正定二次型

1612621631783

1612621772350

1612621915924

1612621938134

正定矩阵

只有实对称矩阵才考虑正定性

给定一个大小为 n×n 的实对称矩阵 A ,若对于任意长度为 n 的非零向量 X,有 \(X^TA X>0​\) 恒成立,则矩阵 A 是一个正定矩阵(positive definite, PD)

给定一个大小为 n×n 的实对称矩阵 A ,若对于任意长度为 n 的非零向量 X,有 \(X^TA X \geq 0\) 恒成立,则矩阵 A 是一个半正定矩阵(positive semi-definite, PSD)

1612622062026

【因为A对应的正定二次型的规范型的矩阵是对角全1的对角矩阵,就是E】

1612622135243

1612622157633

【因为A对应的正定二次型的标准型就是A的特征值做对角线的对角矩阵,且正定说明,对角线全大于0】

1612622315895

1612622374684

1612622783195

1612622791750

1612622812431

1612622947255

1612623085785

1612622964010

1612623029666

1612623039279

泰勒公式

微分

1612707859332

1612707899575

1612707935585

Peano余项的Taylor定理

1612708052598

1612708074466

麦克劳林公式

x0=0处展开的Taylor公式

1612708272426

1612708130978

1612708139968

1612708150062

Lagrange余项的Taylor定理

1612708194358

1612708227536

偏导数

定义

1612682181100

1612682192717

链式法则

1612682708210

1612682724826

高阶偏导数

1612682788890

方向导数 梯度

方向导数

1612682264944

1612682303896

1612682319922

梯度

1612682489669

1612682526533

1612682585125

1612682610722

1612682642868

场论

数量场 向量场

1612683344412

梯度 $grad$ / $\nabla$

1612683369044

1612683407565

Nabla算子 $\nabla$

1612683432884

散度场 $divf$ / $\nabla \cdot f$

定义

1612683609622

1612683890012

物理意义

1612684133903

1612684156466

1612684212306

Laplace算子 $\Delta/\nabla^2$

拉普拉斯算子(Laplace Operator)是$n​$维欧几里得空间中的一个二阶微分算子,定义为梯度$\nabla f​$的散度$\nabla \cdot​$。即$\Delta f = \nabla^2 f= \nabla \cdot \nabla f = div(gradf)​$,假设f是n维函数,$\Delta f = \Sigma_i \frac{\partial^2 f}{\partial^2 x_i^2}​$。

1612684073849

旋度场 $rotf$ / $\nabla \times f$

定义

1612684327436

1612686847615

1612686970356

物理意义

1612688945586

1612688960105

1612689175943

有势场 无旋场 保守场

1612689325686

1612689364976

1612689465814

欧拉公式

\[e^{ix} = cosx + i \cdot sinx\] \[e^{-ix} = cosx - i \cdot sinx\]

1612774605063

傅里叶级数

三角函数系

1612773996898

1612774036836

傅里叶级数($T=2\pi$)

1612774157944

傅里叶系数

1612774173811

意义

1612774224463

以2L为周期的傅里叶级数

1612774376735

1612774386634

1612774403365

傅里叶变换

傅里叶积分

以2T为周期的傅里叶展开:

1612783570243

可以化简成

1612783626848

1612783662740

1612783682053

定义

1612783699868

傅里叶变换

1612789289599

1612784138343

1612784186532

傅里叶逆变换

1612783821674

傅里叶积分的三角形式

1612784005151

1612784041899

傅里叶变换的性质

1612784293018

1612784310847

1612784322232

卷积和傅里叶变换

1612784348637

帕塞瓦尔等式

1612784406729

离散傅里叶变换

1612784592329

1612784614810

1612784675224

1612784665065

快速傅里叶变换 FTT

拉格朗日乘子法

1612682920907

1612682942275

1612682951408

【求出驻点之后,判断驻点是不是极值点即可】

随机过程

1612702952300

1612703040763

1612703087087

1612703151643

1612703183656

马尔科夫过程

马尔可夫过程是一类特殊的随机过程,马尔可夫链是离散状态的马尔可夫过程。

马尔科夫链的定义

1612703701356

转移概率

1612703725960

1612703813001

齐次马尔科夫链

1612703883168

转移概率矩阵

1612704003831

1612704014840

1612704030844

切普曼-柯尔莫哥洛夫方程

1612704097890

1612704187385

初始分布

1612704315616

1612704334793

瞬时概率

1612704419050

1612704665129

平稳分布

1612704794733

1612704827577

【就是任意时刻的分布都是相同的】

1612704982028

例子:

参考

状态转移概率矩阵:

P = [[ 0.65 0.28 0.07] [ 0.15 0.67 0.18] [ 0.12 0.36 0.52]]

初始分布:(0.72,0.19,0.09)

状态转移:(0.72,0.19,0.09)* P = (0.5073, 0.3613, 0.1314) … 最后趋于稳定 (0.287 0.489 0.225)

初始分布:(0.51,0.34,0.15)

状态转移:(0.51,0.34,0.15)* P = (0.4005, 0.4246, 0.1749) … 最后趋于稳定 (0.287 0.489 0.225)

….

收敛的行为和初始概率分布无关,而是由概率转移矩阵P决定的

计算n步转移概率矩阵\(P^{(n)} = P^n\):

1
2
3
4
5
6
7
8
9
10
11
12
13
14
  0 [[ 0.65  0.28  0.07]
     [ 0.15  0.67  0.18]
     [ 0.12  0.36  0.52]]
  1 [ [ 0.4729  0.3948  0.1323]
      [ 0.2196  0.5557  0.2247]
      [ 0.1944  0.462   0.3436]]
  ...
  18 [[ 0.28650397  0.48852059  0.22497545]
      [ 0.28650052  0.48852191  0.22497757]
      [ 0.28649994  0.48852213  0.22497793]]
  19 [[ 0.28650272  0.48852106  0.22497622]
      [ 0.28650093  0.48852175  0.22497732]
      [ 0.28650063  0.48852187  0.2249775 ]]
  ...

发现当n足够大的时候, 矩阵P收敛且每一行都稳定收敛到平稳分布(0.287 0.489 0.225)。

1612706443769

1612706534738

细致平稳条件

1612706609414

满足细致平稳条件的概率分布\(\pi(x)\)是状态转移矩阵P的平稳分布。


转载请标明如下内容:

本文作者:姜佳伟

本文链接:https://aptx1231.github.io/2021/02/08/%E5%9F%BA%E7%A1%80%E6%95%B0%E5%AD%A6/

Github:aptx1231