机器学习算法

  • 监督学习
    • 分类模型
      • LR
      • SVM
      • 决策树
      • NB
    • 回归模型
      • 线性回归 最小二乘
    • 融合模型
      • bagging
        • RF
      • boosting
        • adaboost
        • GBDT
        • xgboost
      • stacking
      • blending
  • 无监督学习
    • 聚类
      • k-means
    • 变量关联分析
  • 降维算法
    • PCA
    • LDA
  • 推荐系统
    • 协同过滤
    • FM
    • deep model
  • 其他
    • EM

机器学习实践

  • 特征工程
    • 特征归一化
    • 类别型特征
    • 组合特征
    • word2vec
  • 模型评估
    • 评估指标
    • ROC曲线
    • 余弦距离
    • AB测试 陷阱
    • 过拟合 欠拟合
  • 优化算法
    • 梯度下降 牛顿法
    • 随机梯度下降的加速方法
      • momentum
      • adagrad
      • adam
    • L1正则与稀疏性

深度学习算法

  • 分类
  • 分割

数学基础

  • 统计概率
  • 线性代数
    • 特征值分解
    • SVD分解
  • 微积分