一位机器学习专家正在对 1,000 个样本和 50 个特征进行线性最小二乘回归模型拟合，并注意到其中两个特征是完全线性相关的。为什么这对于线性最小二乘回归来说是个问题？

当两个特征完全线性相关时，它们在数学上是冗余的。在线性最小二乘回归中，模型通过求解一个矩阵方程来找到最佳系数。如果输入特征矩阵（设计矩阵）中存在完全线性相关的列，这个矩阵将是奇异的（不可逆的），这意味着无法计算其逆矩阵。因此，模型无法得到唯一的解，因为存在无限多个系数组合可以达到相同的最小平方误差。反向传播与线性回归的直接求解无关。损失函数的形式不会改变，非线性关系也不是线性相关的直接后果。