机器学习、优化理论、统计分析、数据挖掘、神经网络、人工智能、模式识别之间的关系是什么?

发布时间:2019年10月07日 阅读:260 次

https://www.zhihu.com/question/20747381/answer/161858582

机器学习里面最重要的四类问题(应用):预测(Prediction)--可以用回归(Regression),聚类(Clustering)--如K-means方法,分类(Classification)--如支持向量机法(SVM),降维(Dimensional reduction)--如主成份分析法(Principal component analysis (PCA))

机器学习的分类:监督学习(Supervised Learning,如深度学习),无监督学习(Un-supervised Learning,如聚类),半监督学习(Semi-supervised Learning),增强学习(Reinforced Learning)。

求解线性回归的最小二乘法问题,完全可以看作运筹学中无约束的二次规划问题(Quadratic Programming),其优化模型如下:

min: sum_(a*x_i+b - y_i)^2

目标函数是最小化回归误差的平方和,由于无约束,因此可以算得其解析解(a,b)。另外唠叨一句,机器学习、深度学习中的“学习”二字,仅仅是指求解参数的过程。例如这里求得参数a、b,便是“机器学习”了这个预测的问题。



Tag:
相关文章

发表评论: