すでに討論されたかもしれません…
同一の目的変数と説明変数を組みにして、ロジスティクス回帰とランダムフォレスト(ボルータ補正付き)両方を実施した際、変数重要度の順位が入れ替わっていることがあります。
特にそうした場合、ランダムフォレストの方が正解率が高くなっていることがあると、変数重要度の概念としては、ランダムフォレストが示したものを参照する方が正しいのかな、と思います。
一方で、ランダムフォレストは正解率を高めることには向いているが、個々の変数の重要度についてはそこまで関心がないという解説も耳にします。
こうした場合の解釈について、皆さんのお考えを伺えれば幸いです。