之前写过一篇最小二乘法，为神马不是差的绝对值，当时讨论时对最小一乘的基本思想不太了解，只知道不好寻优。后来想想，数值分析里没有解析解的方程多如牛毛也能用一些方法逼近最优值，想来求解也不困难，本来这一页也就翻过去了。However，最近在统计之都上看到了一篇介绍统计学思想的文章，顿时感觉醍醐灌顶，对回归问题也有了新的认识，摘要如下：
-
统计是一种总结的学问，也就是用少量信息反应大量信息的知识
-
给定一组数让你用一个数描述，最大的矛盾就在于这个数如何处理与原有数据不一致的矛盾，毕竟会丢失信息
-
这个过程可以分解为选定描述差异算法与最小化这个差异两步，最后给出的数要具有这两重代 …