更新于 2026年7月21日

回归#


术语解释#

在机器学习(Machine Learning)中,回归(Regression)是一种核心的监督学习算法。其主要目的是通过分析已知的输入特征与输出标签,建立一个数学映射模型,从而对连续型数值进行预测(例如:预测明天的温度、房价或股票价格)

房价预测走势图
房价预测走势图

最经典的是线性回归,它假设目标变量与输入特征之间存在线性增长的关系,模型表示为 $\hat{y}=wx+b$

注意: 回归模型一般来讲是指对连续值进行预测的一类模型,而分类模型则是指对离散值(类标)预测的一类模型,但是由于历史的原因虽然逻辑回归被称为回归,但它却是一个分类模型,这算是一个例外。


出现动机#

  • 自动化预测需求:现实中存在大量需要根据已知因素推算未知连续数值的场景,如根据面积预测房价、预测气温或预测城市交通流量。

  • 寻找潜在相关性:为了在不需要显式编程的情况下,让计算机自动从海量数据中“学”出变量间的潜在数学规律


相关术语#

  • 分类

  • 回归

  • 聚类

阅读 --

2.1 模型的建立与求解

在本节内容中,我们首先通过一个实际的场景介绍了什么是线性回归,接着介绍了如何建立一个简单的线性模型,然后引导读者如何将模型的求解问题转换为目标函数的最小化问题,最后通过开源框架sklearn搭建了一个简单的线性回归模型并进行了求解。

3.1 模型的建立与求解

在本节中,我们首先通过一个例子引入了什么是分类,然后介绍了为什么不能用线性回归模型进行建模的原因。其次,通过对线性回归的改进得到逻辑回归模型,并直接地给出了逻辑回归模型的目标函数。最后通过开源的sklearn框架搭建了一个简单的逻辑回归模型 …