机器学习课程day12Contents目录XGBoost算法原理介绍(重点)XGBoost案例及实现(重点)Section章节XGBoost算法原理介绍Xgboost最优模型构建方法目标函数确定和树的复杂度介绍XGBoost目标函数的推导XGBoost的回归树构建方法XGBoost和GBDT的区别1.XGBoost算法原理介绍1.1视频讲解XGBoost是一个什么样的算法?1.XGBoost算法原理介绍1.2知识检测1、下列关于XGBoost的描述错误的是?A)它是极限梯度提升树(ExtremeGradientBoosting)的缩写B)它在数据挖掘方面拥有更好的性能C)只用经验风险最小化的思想无法获得最好的模型效果D)xgboost算法使用的是经验风险最小化的模型优化思想答案:D。使用的是结构风险最小化。Section章节XGBoost算法原理介绍Xgboost最优模型构建方法目标函数确定和树的复杂度介绍XGBoost目标函数的推导XGBoost的回归树构建方法XGBoost和GBDT的区别1.XGBoost算法原理介绍2.1视频讲解XGBoost损失函数的正则化项如何表示?1.XGBoost算法原理介绍2.2知识检测1、下列关于XGBoost损失函数的正则化项描述错误的是?A)它使用的是CART回归树作为基学习器B)它的正则化项只包含一棵树的结果C)它的正则化项由树的叶子节点的个数以及L2正则化项组成D)模型可以通过超参数来调整正则化项对模型的惩罚力度答案:B。包含的是多颗树的综合结果。Section章节XGBoost算法原理介绍Xgboost最优模型构建方法目标函数确定和树的复杂度介绍XGBoost目标函数的推导XGBoost的回归树构建方法XGBoost和GBDT的区别1.XGBoost算法原理介绍3.1视频讲解XGBoost损失函数是如何推导的?1.XGBoost算法原理介绍3.2知识检测1、下列关于XGBoost损失函数的描述错误的是?A)它的第T棵树的损失与第T-1棵树无关B)在求第T棵树的结构时可将前T-1棵树的结构作为常数C)它使用了二阶泰勒展开式去近似目标函数D)最终得出的损失函数值越小代表模型的效果越好答案:A。第T棵树的损失与第T-1棵树有关。Section章节XGBoost算法原理介绍Xgboost最优模型构建方法目标函数确定和树的复杂度介绍XGBoost目标函数的推导XGBoost的回归树构建方法XGBoost和GBDT的区别1.XGBoost算法原理介绍4.1视频讲解XGBoost回归树如何构建?1.XGBoost算法原理介绍4.2知识检测1、下列关于XGBoost回归树的描述错误的是?A)它可以使用打分函数确定某个节点是否能够继续分裂B)它可以使用打分函数确定某个特征的最佳分割点C)最大树深度和最小叶子节...