第三章

  • 和回归问题不同，分类问题中的目标标签𝑦是离散的类别标签，因此分类问题中的决策函数需要输出离散值或是标签的后验概率．线性分类模型一般是一 个广义线性函数，即一个或多个线性判别函数加上一个非线性激活函数．所谓“线性”是指决策边界由一个或多个超平面组成。

    logistic 回归

  • 简单来说， 逻辑回归（Logistic Regression）是一种用于解决二分类（0 or 1）问题的机器学习方法，用于估计某种事物的可能性。比如某用户购买某商品的可能性，某病人患有某种疾病的可能性，以及某广告被用户点击的可能性等。 注意，这里用的是“可能性”，而非数学上的“概率”，logisitc回归的结果并非数学定义中的概率值，不可以直接当做概率值来用。该结果往往用于和其他特征值加权求和，而非直接相乘。

    感知器

  • 感知器（Perceptron）由Frank Roseblatt于1957年提出，是一种广泛使用的线性分类器，感知器可谓是最简单的人工神经网络，只有一个神经元。
  • 感知器是对生物神经元的简单数学模拟，有与生物神经元相对应的部件，如 权重（突触）、偏置（阈值）及激活函数（细胞体），输出为+1或−1。

    SVM

    支持向量机（Support Vector Machine，SVM）是一个经典的二分类算法，其找到的分割超平面具有更好的鲁棒性，因此广泛使用在很多任务上，并表现出 了很强优势。

    模型的对比

    图片说明