《卷积神经网络》第一周《卷积神经网络》。
本门课程《卷积神经网络》主要应用于计算机视觉。本周课程介绍了卷积神经网络的基本模块，基本结构。包括卷积计算的概念及相关的参数策略如Padding、步长；卷积层、池化层、全连接层及各层之间的关系。主要为接下来的应用打好理论基础。

《结构化机器学习项目》第二周《机器学习（ML)策略（2）》。 本课主要讨论数据，标注错误、训练集和开发/测试集不同分布，遇到这些情况该怎么应对。后半部分进一步扩展了机器学习的方法，引入迁移学习、多任务学习、端到端学习的概念。

《结构化机器学习项目》第一周《机器学习（ML)策略（1）》。 本课没有编程作业，老师在开篇提到本课提供更快速、高效地优化机器学习系统的思路，很多大学机器学习的课程是不包含这些内容的。

《改善深层神经网络：超参数调试、正则化以及优化》第三周《超参数调试、Batch正则化和程序框架》。 本节是神经网络破茧成蝶的一节课。因为之前一直讲解理论，从零开始搭建正向传播、反向传播、梯度下降以及各个环节的优化方法。现实应用中，基于成熟的机器学习库，通常只需几行调用就能完成这些工作。本节终于开始介绍TensorFlow，然而在使用高级玩意儿之前，还得再学习一周的超参数调试方法，并把逻辑回归方法扩展到多分类问题的解决上来。

《改善深层神经网络：超参数调试、正则化以及优化》第二周《优化算法》。 本节主要从模型的训练方法上给出一些可优化的点，包括可以将数据分而治之的Mini-Batch、防止梯度下降方向变化率过大的指数加权平均以及RMSprop和Adam优化算法。

pandas主要用于数据分析，拿到一批数据后，对数据有个宏观深入的理解非常重要，比如分布、均值、方差等，这是pandas的用武之地。

《改善深层神经网络：超参数调试、正则化以及优化》第一周《深度学习的实用层面》。 本节主要从如何初始化W、b参数，正则化正反向传播和梯度检查三方面来讨论如何优化一个神经网络模型。

《神经网络和深度学习》第四周《深层神经网络》。 本节的题目是深层神经网络，只是把网络的层数延展为变量。使用的方法还是前两节的方法——梯度下降、正向传播、反向传播。

《神经网络和深度学习》第三周《浅层神经网络》。 本节的题目是浅层神经网络，开始接触多层结构，此时才真正接触到了神经网络模型。其实运用到的理论知识和上一节的逻辑回归相比，几乎没有新东西。

为了便于描述，我把前一节运算出来的a称为一个神经元（这是我的直观理解，并无出处~），该神经元与输入数据直接关联，并直接输出为二分结果。真实世界人脑的思考过程通常没有这么简单，有很多与之相关的成语比如“深思熟虑”、“三思而行”、“深谋远虑”……都是指有深度、反复的思考。本节课程正是通过增加神经元的层次、以及每一层的个数来增强思考的深度和广度。

《神经网络和深度学习》，第二周《神经网络基础》。 网上关于神经网络和深度学习的笔记、作业很多，也很有价值。这版笔记这是针对我自己学习过程中的感悟、重点做个记录，便于自己快速查阅。本文的标题号和课程号保持一致，以方便查阅。

完成DeepLearning.AI的第一个编程作业后，突然觉得对深度学习开悟了。把之前的学习、感悟和作业代码记录下来。

数学公式在博客里用得越来越频繁，找到hexo的插件可以完美支持，安装过程如下：

概念

h5py是用来操作HDF5格式的Python库。HDF5格式用来存储用于机器学习的海量数据，这是一个二进制格式的文件。其中包括两类对象：dataset和group，dataset是类似于数组的数据集，group是类似文件夹的容器。

没有什么可以阻挡 我对自由的向往

最近在几台机器上频繁clone dlib-android和dlib-android-app，这两个库都巨大，其中因为有一个99M的人脸识别模型文件，我自己训练一个16.6M的小模型，替换后发现两个git目录尺寸并没有减小。原因是.git这个目录里记录了所有历史数据，本文记录该目录的瘦身过程。

本章要点： - dlib提取人脸关键点的时间性能和尺寸

本章要点： - dlib的安装 - dlib简单使用 - 人脸检测、识别 - 人脸合成 - 训练自己的人脸关键点模型

本章是对Material Design官方文档的总结。

本章会把附近图片的经纬度标到地图上。 本章要点： - 获取Google地图API key - 显示Google地图 - 在Google地图上标注位置

本章引入随Google Play Services带的LocationService，使用地理位置信息，并向Flickr请求和位置信息相关的图片。 本章要点： - Google Play Services - LocationService，申请权限，请求服务，使用结果 - 在模拟器上模拟位置变化