代数方程

最高一次项的方程。

一元一次方程

太简单了，形如：

解：

二元一次方程

也很简单：

消元法，替换法就可以，解为： 若 ：

若 : 无解。

线性方程

三元、四元方程，与二元方程无本质的不同，皆是线性方程。

记作：

解：

简单计算 使用初等行变换，或者行列式？法则来求。

问题来了，A是奇异的，或者非方阵，怎么办？

不定方程组

未知数超过方程个数的，在 矩阵A看来，就是 ，此时，方程：

存在无数个解。

比如：

解为：

其中， 是特解， 是通解，同时也是A的零空间，记作N(A)，即：

超定方程组

未知数小于方程个数的，在 矩阵A看来，就是 ，此时，方程：

无解。

比如：

它无解。

它有一个最近似解，怎么理解？

举个例子，大数据分析中的数据拟合，最简单的线性拟合：

例如，有3个点(1, 1.01), (2, 2), (3, 2.99)，求他们的线性回归方程:

有

将 看成未知数 ，

求 可以使用高斯最小二乘法。

另外，从向量空间角度来理解，

是向量 和向量 的向量空间，该空间是一个三维平面，但向量 明显不在这个平面上，是导致该超定方程组无解的原因。

但是，向量 可以在向量空间中投影得到 ，求解 就能得到结果。

求向量b在A的列空间中的投影

超定方程，有一个近似解，称之为最小二乘解。

最小二乘解（未知量个数不大于方程个数）

考虑线性方程组 ，其中， 。未知量的数量不大于方程的数量，称该方程是矛盾的或超定的。这种情况下，方程组无解。求解该方程就变成了寻找一个(组)向量 , 使得 到最小。

根据投影已知，此时方程的最小二乘解是： ，下面给出证明。

证明：首先构造目标函数：

很明显，函数 为二次型函数。由于 ，因此二次项是正定的。利用局部极小点 的一阶必要条件，可求得 的唯一极小点，即极小点满足：

该方程的唯一解为: 。证明完毕。

再看不定方程

不定方程有很多解，但是离原点最近的只有一个，如何求这个最近的点？

最小范数解

考虑线性方程组，其中， 。方程的数量不大于未知量的数量。因此，该方程组可能存在无数个解。但是，接下来将发现，只存在一个最接近原点的解，即 的解中范数 最小的 。令 表示这个解，可知 ，且对于任意满足 的 ，都有 。也就是说， 是如下优化问题的解：

直接给出结论，此时问题的最小范数解是： （注意与上面最小二乘解的形式的区别），下面给出证明。

证明：令上述问题的解为 ，注意

由于

故有

由于对于所有 ,都有 成立，因此，对于所有 ，都有 , 即 ，显然 是惟一的。证明完毕。

模同余方程

韩信点兵

韩信带1500名兵士打仗，战死四五百人，站3人一排，多出2人；站5人一排，多出4人；站7人一排，多出3人。韩信很快说出人数：1004。

或者

中国剩余孙子定理

• 都能想到的，一旦得到特解 ，通解将是
• 满足方程1： ，且不伤害方程2、3的数

  • 不伤害方程2和3，即解 加上这个数，但不影响方程2和3

    • 所以这个数一定是方程2、3中模的最小公倍数 的整数倍
  • 再看方程1，从35的整数倍中寻找一个 的，35就可以。还能有谁呢？

    • 70不行，105也不行，140可以，所以以下都可以：
• 满足方程2： ，且不伤害方程1、3的数

  • 不伤害方程1和3，即解 加上这个数，但不影响方程1和3

    • 所以这个数一定是方程1、3中模的最小公倍数 的整数倍
  • 再看方程2，从21的整数倍中寻找一个 的，寻得

    • 同样的，以下都可以，
• 满足方程3: ，且不伤害方程1、2的数

  • 不伤害方程1和2，即解 加上这个数，但不影响方程1和2

    • 所以这个数一定是方程1、2中模的最小公倍数 的整数倍
  • 再看方程3，从15的整数倍中寻找一个 的，寻得

    • 同样的，以下都可以，
• 特解：
• 通解： ，最小正整数解为59

高次方程

一元二次方程

形如：

解：

一元三次方程

形如：

或：

怎么解？

令 ，代入：

展开：

消除二次项，得到一般式：

再解一般式：

法一：赫徳

令 ，代入得：

变化多端，不妨约束：

变化一下：

可解出来 ，最终求的 。

法二：变换法

令 ，代入：

可解出来 ，从而得到 。

卡丹公式

的公式解为：

一元四次方程

一般式：

令 ，消去三次项，得到更为一般的式子：

笛卡尔配方法

设消去三次项的四次方程，可以表示为两个二次方程的乘积，即

由于，三次项系数为0，可得:

用 消除 ，得：

解得 ：

代入 得：