《卷积神经网络》第二周《深度卷及网络：实例探究》。
本周课程前半部分对卷积神经网络作了进一步延伸介绍，领略了LeNet-5、AlexNet、VGG-16等经典网络和残差网络、Inception网络。这些介绍略显枯燥，因为每个网络体系都更加复杂，你很难从网络体系架构图上理解他为什么这么做。课程并没有讲解思想起源，而是建议大家阅读论文。好消息是，如果只是应用，不需要读懂论文，可以去寻找开源的实现，不仅是算法，连同前人已经训练好的模型都可以一并拿来，通过迁移学习的方法嫁接到自己的应用中。这是本周课程的后半部分讲解的内容。
DeepLearning.ai笔记（九）
发表于
|
分类于
机器学习
《卷积神经网络》第一周《卷积神经网络》。
本门课程《卷积神经网络》主要应用于计算机视觉。本周课程介绍了卷积神经网络的基本模块，基本结构。包括卷积计算的概念及相关的参数策略如Padding、步长；卷积层、池化层、全连接层及各层之间的关系。主要为接下来的应用打好理论基础。
DeepLearning.ai笔记（八）
发表于
|
分类于
机器学习
《结构化机器学习项目》第二周《机器学习（ML)策略（2）》。
本课主要讨论数据，标注错误、训练集和开发/测试集不同分布，遇到这些情况该怎么应对。后半部分进一步扩展了机器学习的方法，引入迁移学习、多任务学习、端到端学习的概念。
DeepLearning.ai笔记（八）
发表于
|
分类于
机器学习
《结构化机器学习项目》第二周《机器学习（ML)策略（2）》。
本课主要讨论数据，标注错误、训练集和开发/测试集不同分布，遇到这些情况该怎么应对。后半部分进一步扩展了机器学习的方法，引入迁移学习、多任务学习、端到端学习的概念。
DeepLearning.ai笔记（七）
发表于
|
分类于
机器学习
《结构化机器学习项目》第一周《机器学习（ML)策略（1）》。
本课没有编程作业，老师在开篇提到本课提供更快速、高效地优化机器学习系统的思路，很多大学机器学习的课程是不包含这些内容的。
DeepLearning.ai笔记（六）
发表于
|
分类于
机器学习
《改善深层神经网络：超参数调试、正则化以及优化》第三周《超参数调试、Batch正则化和程序框架》。
本节是神经网络破茧成蝶的一节课。因为之前一直讲解理论，从零开始搭建正向传播、反向传播、梯度下降以及各个环节的优化方法。现实应用中，基于成熟的机器学习库，通常只需几行调用就能完成这些工作。本节终于开始介绍TensorFlow，然而在使用高级玩意儿之前，还得再学习一周的超参数调试方法，并把逻辑回归方法扩展到多分类问题的解决上来。
DeepLearning.ai笔记（五）
发表于
|
分类于
机器学习
《改善深层神经网络：超参数调试、正则化以及优化》第二周《优化算法》。
本节主要从模型的训练方法上给出一些可优化的点，包括可以将数据分而治之的Mini-Batch、防止梯度下降方向变化率过大的指数加权平均以及RMSprop和Adam优化算法。
DeepLearning.ai笔记（四）
发表于
|
分类于
机器学习
《改善深层神经网络：超参数调试、正则化以及优化》第一周《深度学习的实用层面》。
本节主要从如何初始化W、b参数，正则化正反向传播和梯度检查三方面来讨论如何优化一个神经网络模型。
DeepLearning.ai笔记（三）
发表于
|
分类于
机器学习
《神经网络和深度学习》第四周《深层神经网络》。
本节的题目是深层神经网络，只是把网络的层数延展为变量。使用的方法还是前两节的方法——梯度下降、正向传播、反向传播。
DeepLearning.ai笔记（二）
发表于
|
分类于
机器学习
《神经网络和深度学习》第三周《浅层神经网络》。
本节的题目是浅层神经网络，开始接触多层结构，此时才真正接触到了神经网络模型。其实运用到的理论知识和上一节的逻辑回归相比，几乎没有新东西。
为了便于描述，我把前一节运算出来的a称为一个神经元（这是我的直观理解，并无出处~），该神经元与输入数据直接关联，并直接输出为二分结果。真实世界人脑的思考过程通常没有这么简单，有很多与之相关的成语比如“深思熟虑”、“三思而行”、“深谋远虑”……都是指有深度、反复的思考。本节课程正是通过增加神经元的层次、以及每一层的个数来增强思考的深度和广度。
git瘦身
发表于
|
分类于
git
最近在几台机器上频繁clone dlib-android和dlib-android-app，这两个库都巨大，其中因为有一个99M的人脸识别模型文件，我自己训练一个16.6M的小模型，替换后发现两个git目录尺寸并没有减小。原因是.git这个目录里记录了所有历史数据，本文记录该目录的瘦身过程。