对于xgboost，还有必要做很多特征工程吗？

特征工程是个很广的概念，包括特征筛选、特征变换、特征合成、特征提取等等。

对于xgboost，它能够很好地做到特征选择，所以这一点不用我们去操心太多。

至于特征变换（离散化、归一化、标准化、取log等等），我们也不需要做太多，因为xgboost是基于决策树，决策树自然能够解决这些。相比较来说，线性模型则需要做离散化或者取log处理。因为xgboost（树类模型）不依赖于线性假设。但是对于分类特征，xgboost需要对其进行独热编码，否则无法训练模型。

xgboost也可以免于一部分特征合成的工作，比如线性回归中的交互项a:b，在树类模型中都可以自动完成。但是对于加法a+b，减法a-b，除法a-b这类合成的特征，则需要手动完成。

绝大部分模型都无法自动完成的一步就是特征提取。很多nlp的问题或者图象的问题，没有现成的特征，你需要自己去提取这些特征，这些是我们需要人工完成的。

综上来说，xgboost的确比线性模型要省去很多特征工程的步骤。但是特征工程依然是非常必要的。

相对于线性模型来说，特征工程不是那么重要吧

线性模型有时候还需要做interaction term

决策树或者boosting都是模型自己在做interaction的。

从特征多重共线性的角度来说，xgboost可以省去很多特征工程的工程。

至于原因可以参考决策树、随机森林中的多重共线性问题