为什么bias-variance一定会trade off？

bias大是指预测值与真实值之间的误差很大，通常是因为模型欠拟合

variance大是指当数据有小的扰动时，预测结果相差却不小，通常是因为模型过拟合

模型要不是欠拟合，要么过拟合，要么两者之间，所以bias和variance就会有trade off，因为不可能同时发生欠拟合和过拟合。当模型不过拟合也不欠拟合的时候，bias适中，variance也适中。

我是这么认为的：

bias 是指模型拟合训练数据的偏差。bias越小，模型拟合的程度就越好

variance 是模型在不同训练集的预测结果的方差。

随着模型复杂性的增加，bias就会越小，而variance就会越大。因为模型越复杂，模型对于训练数据集的学习就会越细致，模型拟合程度就会越好。但是对于不同数据集之间的共性的学习就会不太好，会导致不同数据集之间的预测的差异性很大。