1. 高斯消元法

高斯消元法（Gaussian elimination）是求解线性方阵组的一种算法，它也可用来求矩阵的秩，以及求可逆方阵的逆矩阵。它通过逐步消除未知数来将原始线性系统转化为另一个更简单的等价的系统。它的实质是通过初等行变化（Elementary row operations），将线性方程组的增广矩阵转化为行阶梯矩阵（row echelon form）。总结起来，如下步骤所示

以下面方程组为例，它的执行步骤为

1）构造增广矩阵，即系数矩阵A增加上常数向量b（A|b）

                         

2）通过以交换行、某行乘以非负常数和两行相加这三种初等变化将原系统转化为更简单的三角形式（triangular form）

     注：这里的初等变化可以通过系数矩阵A乘上初等矩阵E来实现

                        

3）从而得到简化的三角方阵组，注意它更容易解

                        

4）这时可以使用向后替换算法（Algorithm for Back Substitution）求解得

    z=-4/-4=1,  y=4-2z=4-2=2,  x= (1-y-z)/2=(1-2-1)/2=-1

总结上面过程，高斯消元法其实就是下面非常简单的过程

                            原线性方程组       ——>       高斯消元法     ——> 下三角或上三角形式的线性方程组           ——>  前向替换算法求解（对于上三角形式，采用后向替换算法）

一个t位（即精度为t）以为基的浮点数的表达形式为：，。对于一个实数x，其浮点近似值为最接近x的浮点数，必要时进行近似。

例1：对2位以10为基的浮点算法，。

例2：同样考虑，。

以下面系统为例，看看在高斯消元中采用浮点算法会产生什么效果。

当以精确解法时，通过将第一行乘以m=89/47，并从第二行中减去得到，进而利用后向替换算法得x=1，y=-1。

当以3位以10为基的浮点算法时，乘子变为，因为，因此第一步高斯消元后得

。此时，因为不能将第2行第1列位置变为0，所以不能将其三角化。从而，我们只能接受将这个位置值赋为0，而不管其实际浮点值。因此，3位浮点高斯消元的结果为，后向算法计算结果为。

3.2 部分主元消元（Partial Pivoting）