CIFAR鲁棒识别大赛
C
机器学习课又来了遍SVD。。
对身高体重的数据进行svm分类,分别使用线性函数、三次多项式函数、径向基函数和Sigmoid函数作为核函数进行模型训练,并观察分类效果
分别使用sklearn中的LinearRegression和梯度下降对数据进行拟合。Sklearn中的线性回归使用最小二乘法,可以使损失函数最小化,而梯度下降只能不断逼近最小值,从运行结果中可以看出200次迭代后损失已经和最小二乘法很接近了。
参见维基百科:牛顿法PS:吐槽下老师作业的质量有点低,又是公式写错,又是没给出一般形式,推导也是云里雾里
手写了一个二元线性回归的梯度下降。PS:老师给的数据竟然不全,推导过程也不尽人意,代码示例也感觉很糟糕。还是推荐看吴恩达的机器学习课程:。带图片的jupyter notebook不太好搞,就iframe直接嵌入了自己搭建的git仓