贪心算法，分为定义，使用条件，不足之处和常见例题（代码）等部分。

宽度优先遍历（Breadth First Search，BFS）概念和实践介绍。概念部分包括定义，使用的场景和时空复杂度；实践就是代码部分，包括树的深度优先遍历、无向图的深度优先遍历（迪杰斯特拉算法，Dijkstra’s algorithm）和有向图的深度优先遍历（拓扑排序）。

介绍决策树的定义、分类，重点介绍决策树中特征选择的三种算法和决策树的优劣。

深度学习中优化器 （optimizer）讲解。根据学习率的情况分成三个阶段，基础版本Gradient Descent，然后是人工设置学习率阶段和自适应学习率阶段。最后对应pytorch，说明常用的几种学习率优化策略。

介绍熵相关的概念：包括信息熵、相对熵、交叉熵、KL 散度和互信息。并且基于python 实现上述的算法。

python 学习笔记，之前有两篇笔记，因为太多了，所以新开一篇。

背包问题

title: logistics 和softmax 的公式推导 date: 2019-07-05 20:37:41 categories: 机器学习 Logistics 和 softmax 的公式推导。总结常在面试过程中用到的公式推导。 Logistics公式推导 Logistics Regression 是线性分类器

介绍Word2vec 的两种训练模式（DBOW和Skip-gram）和两种优化策略（Hierarchical Softmax 和Negative Sampling）。

介绍自然语言处理中的命名实体识别（Named Entity Recognition，NER ）相关概念，主要介绍基于HMM 的NER，包括HMM中的两大假设，三大参数和Viterbi 算法。