最小二乘法简介（OLS）

最小二乘法（又称最小平方法）是一种数学优化技术，简称（OLS）。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

核心思想：损失函数最小化

如果有过机器学习的相关学习经验对这个一定不陌生，梯度下降法正是利用了损失函数梯度下降的方法来进行权值修改的。损失函数：通俗的将就是理想与现实的差距。