过拟合

• 添加其他特征项。组合、泛化、相关性、上下文特征、平台特征等特征是特征添加的重要手段，有时候特征项不够会导致模型欠拟合。
• 添加多项式特征。例如将线性模型添加二次项或三次项使模型泛化能力更强。例如，FM（Factorization Machine）模型、FFM（Field-aware Factorization Machine）模型，其实就是线性模型，增加了二阶多项式，保证了模型一定的拟合程度。
• 可以增加模型的复杂程度。
• 减小正则化系数。正则化的目的是用来防止过拟合的，但是现在模型出现了欠拟合，则需要减少正则化参数。

欠拟合

• 重新清洗数据，数据不纯会导致过拟合，此类情况需要重新清洗数据。
• 增加训练样本数量。
• 降低模型复杂程度。
• 增大正则项系数。
• 采用dropout方法，dropout方法，通俗的讲就是在训练的时候让神经元以一定的概率不工作。
• early stopping。
• 减少迭代次数。
• 增大学习率。
• 添加噪声数据。
• 树结构中，可以对树进行剪枝。
• 减少特征项。

欠拟合和过拟合这些方法，需要根据实际问题，实际模型，进行选择。