logistic回归详解
logistic回归分析简单讲解?
logistic回归通俗理解?
logistic回归虽然说是回归,但确是为了解决分类问题,是二分类任务的首选方法,简单来说,输出结果不是0就是1
举个简单的例子:
癌症检测:这种算法输入病理图片并且应该辨别患者是患有癌症(1)或没有癌症(0)
2.logistic回归和线性回归的关系
逻辑回归(Logistic Regression)与线性回归(Linear Regression)都是一种广义线性模型(generalized linear model)。
逻辑回归假设因变量 y 服从二项分布,而线性回归假设因变量 y 服从高斯分布。
因此与线性回归有很多相同之处,去除Sigmoid映射函数的话,逻辑回归算法就是一个线性回归。
可以说,逻辑回归是以线性回归为理论支持的,但是逻辑回归通过Sigmoid函数引入了非线性因素,因此可以轻松处理0/1分类问题。
换种说法:
线性回归,直接可以分为两类,
但是对于图二来说,在角落加上一块蓝色点之后,线性回归的线会向下倾斜,参考紫色的线,
但是logistic回归(参考绿色的线)分类的还是很准确,logistic回归在解决分类问题上还是不错的
logistic回归分析的优缺点?
一、logistic回归又称logistic回归分析,是一种广义的线性回归分析模型,常用于数据挖掘,疾病自动诊断,经济预测等领域。
二、优点:
1. 实现简单,广泛的应用于工业问题上;
2. 分类时计算量非常小,速度很快,存储资源低;
3. 便利的观测样本概率分数;
4. 对逻辑回归而言,多重共线性并不是问题,它可以结合L2正则化来解决该问题;
5. 计算代价不高,易于理解和实现。
三、缺点:
1. 当特征空间很大时,逻辑回归的性能不是很好;
2. 容易欠拟合,一般准确度不太高;
3. 不能很好地处理大量多类特征或变量;
4. 只能处理两分类问题(在此基础上衍生出来的softmax可以用于多分类),且必须线性可分;
5. 对于非线性特征,需要进行转换。