第三章 线性模型

  • 线性模型的预测值的范围为全体实数，对于分类问题，我们需要将实数域使用一个判别函数转换为离散的类型。
    判别函数 图片说明
  • 思考一个问题，如果实际类别的分布如何并不是均匀分布的，使用上面的那种判别函数是否合理。

    3.1线性判别函数和决策边界

  • 二分类问题
    • 这类的分类问题只有两类需要划分的标签。如果存在一个超平面将将特征空间划分为两部分，每一部分对应一个类别
      图片说明
      对二分类问题，需要选择一个好的判别函数，以便于对参数的优化。
    • 多分类问题
      将多分类问题转换为二分类问题
      • 一对其它：把多分类问题转换为C个一对其它的二分类问题，将类别为c和其它的样本分开
      • 一对一 ：每两个类别直接设定一个判别函数将这两个分开。
      • argmax：
        图片说明
        三种方式的对比：
        图片说明