目录

机器学习学习笔记

机器学习

概念:

  • 机器学习是一门人工智能的科学,该领域的主要研究对象是人工智能,特别是如何在经验学习中改善具体算法的性能。

  • 机器学习是对能通过经验自动改进的计算机算法的研究。

  • 机器学习是用数据或以往的经验,以此优化计算机程序的性能标准。

(官方语言来自维基百科)

简单理解就是通过让机器学习相关算法,拥有预测的能力,然后做出相关操作。机器学习的本质就是通过给机器数据,让机器在数据中寻找相关关系

简单的理解人工智能包括了机器学习算法、搜索算法等,深度学习又是机器学习的一种延伸。

数据

数据集:一种由数据所组成的集合,一般数据含有集有特征与标签,每一行的数据表示为一个样本,每一列的数据(除最后一列外)表示为一个特征,最后一列的数据表示为标签。在具体的算法中数据集包括训练集与测试集。利用数据集可视化可以生产特征空间,根据特征的维度可以生产高维的特征空间。

流程

通用流程:

学习数据–>机器学习算法–>模型–>输入样例–>输出结果

预测结果

分类

分类、回归
  • 根据机器学习的流程来选择两类任务
    • 分类:当希望机器学习可以预测类别的时候
      • 常见的分类方式:二分类、多分类
    • 回归:希望机器学习可以预测连续数字的值
      • 可以将回归任务简化为分类任务
有无监督

监督学习、非监督学习、半监督学习、增强学习

  • 监督学习:给机器的训练数据拥有标记

    • 常见的监督学习:K近邻(KNN)、线性回归、多项式回归、逻辑回归、SVM、决策树、随机森林
  • 非监督学习:给机器的训练数据没有任何“标记”

    • 常见的非监督学习:聚类分析、对数据进行降维处理,数据集的特征提取提取
  • 半监督学习:给机器的训练数据一部分数据有标记,另一部分没有

    • 造成数据缺失的原因:各种原因产生的样本或者标记缺失
    • 半监督学习在平时比较常见,大多都需要我们在处理数据,再交给机器进行学习
  • 增强学习:根据周五的环境采取行动,根据采取行动的结果,学习行动方式

    • 以监督学习和半监督学习为基础
学习环境

批量学习、在线学习

  • 批量学习:在训练模型时,一次性的把所有样本全部输入

    • 优点:简单,写好一个算法就不更改与完善

    • 缺点:不能适应环境的变化、想适应变化需要重新批量学习

  • 在线学习:在训练模型时,每输入一个样本都会计算下误差,调整一下参数

    • 优点:及时反映新的环境变化

    • 缺点:新的数据可能带来的不良变化

学习方式

参数学习、非参数学习

  • 参数学习:基于数据,假设关系,找到关系参数

    • 特点:通过数据集学习,学习到参数,当学习到参数时,就不再需要原有数据集
  • 非参数学习:不对模型进行过多假设

    • 注意:非参数不等于没参数