吴恩达深度学习课程 逻辑回归部分

吴恩达深度学习课程小记

一些标记符号

深度学习符号标记1

由于目前这个博客编辑器对于数学符号支持不是太好,索性直接上图

逻辑回归部分

逻辑回归

L(y-hat,y) 损失函数

截图里面,可以使用平方差模型作为损失函数,但是会出现两个问题,就是if y=1 和y=0 部分 【会产生非凸优化函数的问题】,故选择设定函数(方框标注的L函数)作为损失函数

J(w,b)代价函数

在优化逻辑回归函数时,取w,b最优,使得代价函数最小。

后记部分

   昨天抽了个时间,把博客问题处理掉,今天就用来记录学习的一些内容吧。   之前开开组会,都是迷迷糊糊的,什么ReLU,simode函数,什么反向传播,正向传播,都是似懂非懂迷迷糊糊,之前准备上课讲述SVM代码,结果看了半个月,论文都还没找,一个反向传播,问师兄,我也没怎么明白,大致就是参数更新过程。   框架的使用,确实方便了开发,但是对于个人的发展总归还是不利的,所以,还是听从师兄的建议,从头开始,先把经典基础理论课听完!    上面的内容,可能有我听得不到位的地方,甚至是我理解有误的地方,所以,文章仅供参考。仅作为个人学习成长记录之用吧。看看什么时候能淦完这个大课程!'