线性代数笔记

线性代数的核心意义在于提供了一种看待世界的抽象视角：万事万物都可以被抽象成某些特征的组合，并在由预置规则定义的框架之下以静态和动态的方式加以观察。

在线性代数中，由单独的数a构成的元素被称为标量（scalar））：一个标量a可以是整数、实数或复数。如果多个标量a1，a2，··，am按一定顺序组成一个序列，这样的元素就被称为向量（vector）。显然，向量可以看作标量的扩展。原始的一个数被替代为一组数，从而带来了维度的增加，给定表示索引的下标才能唯一地确定向量中的元素。

每个向量都由若干标量构成，如果将向量的所有标量都替换成相同规格的向量，得到的就是如下的矩阵（matrix）：

相对于向量，矩阵同样代表了维度的增加，矩阵中的每个元素需要使用两个索引（而非一个）确定。同理，如果将矩阵中的每个标量元素再替换为向量的话，得到的就是张量（tensor）。直观地理解，张量就是高阶的矩阵。

线性代数是用虛拟数字世界表示真实物理世界的工具。

在计算机存储中，标量占据的是零维数组；向量占据的是一维数组，例如语音信号；矩阵占据的是二维数组，例如灰度图像；张量占据的是三维乃至更高维度的数组，例如RGB图像和视频。

数理统计以概率论为理论基础，但两者之间存在方法上的本质区别。概率论作用的前提
是随机变量的分布已知，根据已知的分布来分析随机变量的特征与规律;数理统计的研究对
象则是未知分布的随机变量，研究方法是对随机变量进行独立重复的观察，根据得到的观察
结果对原始分布做出推断。

人工智能的目标就是最优化:在复杂环境与多体交互中做出最优决策。几乎所 有的人工智能问题最后都会归结为一个优化问题的求解，因而最优化理论同样是人工智能必 备的基础知识。
最优化理论(optimization)研究的问题是判定给定目标函数的最大值(最小值)是否存 在，并找到令目标函数取到最大值(最小值)的数值