1. 公式推导一定要会

　　2. 逻辑回归的基本概念

　　这个最好从广义线性模型的角度分析，逻辑回归是假设y服从Bernoulli分布。

　　3. L1-norm和L2-norm

　　其实稀疏的根本还是在于L0-norm也就是直接统计参数不为0的个数作为规则项，但实际上却不好执行于是引入了L1-norm;而L1norm本质上是假设参数先验是服从Laplace分布的，而L2-norm是假设参数先验为Gaussian分布，我们在网上看到的通常用图像来解答这个问题的原理就在这。

　　但是L1-norm的求解比较困难，可以用坐标轴下降法或是最小角回归法求解。

　　4. LR和SVM对比

　　首先，LR和SVM最大的区别在于损失函数的选择，LR的损失函数为Log损失(或者说是逻辑损失都可以)、而SVM的损失函数为hinge loss。

　　其次，两者都是线性模型。

　　最后，SVM只考虑支持向量(也就是和分类相关的少数点)

　　5. LR和随机森林区别

　　随机森林等树算法都是非线性的，而LR是线性的。LR更侧重全局优化，而树模型主要是局部的优化。