サニタイズされたデータセットには、スケールが桁違いに異なる特徴量があります。本番環境での予測精度を最大化するには、モデリングの前にどのような手順を踏むべきですか？

正解は、まずデータセットを分割し、トレーニングセットでスケーリングパラメータを学習し、そのパラメータを検証セットとテストセットに適用するというものです。これにより、データリークを防ぎ、モデルが未知のデータに対してどのように機能するかを正確に評価できます。データセット全体を最初にリスケールすると、テストセットの情報がトレーニングプロセスに漏洩する可能性があり、モデルのパフォーマンスが過大評価されることがあります。各セットを個別にリスケールすると、異なるスケーリングが適用され、モデルがデータの一貫した表現を学習できなくなります。ランダムサンプリングはスケーリングとは異なる目的で行われるため、この問題の解決策にはなりません。