机器学习任务攻略

【第2讲】1-机器学习任务攻略_哔哩哔哩_bilibili第一步函数第二步定义训练数据的loss第三步参数最优化模型弹性vs最优化问题左边是训练数据的表现右边是测试数据的表现。层数越多反而表现不好理想状态下层数越多应该表现越好损失越低屠龙秘籍mismatch是训练样本和真实样本的分布不一样解决过拟合问题1Data augmentation2限制模型的弹性3更小的参数共享参数4更少的特征更早的停止5正则化dropout一个模型很复杂一个模型有弹性选择一个刚刚好的模型在train和test表现都好推荐看valid的损失不是看public的损失将验证集分为n个这里是将训练集分为三份两份是训练集一份是验证集重复三次并用三个模型各跑三次算出平均值比较哪个模型更好。