首先学习了XLP课程的逻辑模型,对于方向是机器学习的我来说,比较吸引我的当然是学习目标中第三点PAC理论。但是,PAC作为一种判断是否可机器学习的理论,是怎么应用到人的群体学习的呢?我的思考是:
首先,PAC指:
1、除非对每个可能的数据进行训练,否则总会存在多个假设使得真实错误率不为0,即学习器无法保证和目标函数完全一致*除非对每个可能的数据进行训练,否则总会存在多个假设使得真实错误率不为0,即学习器无法保证和目标函数完全一致2、训练样本是随机选取的,训练样本总有一定的误导性*训练样本是随机选取的,训练样本总有一定的误导性
一个可PAC学习的学习器要满足两个条件:
1、学习器必须以任意高的概率输出一个错误率任意低的假设*学习器必须以任意高的概率输出一个错误率任意低的假设2、学习过程的时间最多以多项式方式增长*学习过程的时间最多以多项式方式增长
也就是说,PAC学习是指,在学习过程中,要能够以某一定的概率达到最后能够实现的目标,且学习过程的时间复杂度不能超过多项式复杂度。
所以,运用于群体学习中,也就是说,我们最终的目标要在一定的时间复杂度中可达到。