林轩田的及其学习视频的一些笔记，结合李航的《统计学习方法》，先把之前做笔记的总结一下，以后再慢慢随着进度更新，会很慢哦~
Roadmap
- 机器什么时候学习？
- 机器为什么可以学习？
- 机器如何学习？
- 机器如何学的更好？
人和机器的学习
人：观察\(\to\)学习\(\to\)技能(observations\(\to\)learning\(\to\)skill)
机器：数据\(\to\)学习\(\to\)技能\(\iff\)性能改进
(data\(\to\)learning\(\to\)skill\(\iff\) improved performance measure)
机器学习的要素
- 存在某种有待学习的规则模式(underlying pattern)
- 该规则模式不容易定义
- 有关于该规则的数据
未知的有待学习的模式:
目标函数(target function)\(\Longrightarrow X \to Y\)
数据:
训练样本\(\Longrightarrow D:\{(x_1,y_1),...,(x_n,y_n)\}\)
假设:
技能\(\Longrightarrow g:x\to y\)
\(\{(x_n,y_n)\}\ in \ f \to ML\to g\)
\(f\)是真实的那个函数，\(g\)是我们通过学习所得到的“可能”的函数，目标是让\(g\)尽可能接近\(f\)。