无论输入如何，我的 RandomForest 始终为 model.predict_proba() 返回完全相同的概率

如何解决无论输入如何，我的 RandomForest 始终为 model.predict_proba() 返回完全相同的概率

该代码应该根据葡萄糖、血压、BMI 和年龄等参数预测患糖尿病的可能性：

我首先必须修剪掉我不需要的列：

 df=pd.read_csv('diabetes.csv')
    keep_col = ['Glucose','BloodPressure','BMI','Age','Outcome']
    df = df[keep_col]
    df.to_csv('newFile.csv',index=False)

然后我不得不平衡数据集，因为没有糖尿病的患者数量是原来的两倍：

shuffled_df = df.sample(frac=1,random_state=4)
fraud_df = df.loc[shuffled_df['Outcome'] == 1]
non_fraud_df = shuffled_df.loc[shuffled_df['Outcome'] == 0].sample(n=684,random_state=42)
df = pd.concat([fraud_df,non_fraud_df])

制作训练和测试集：

X = df.iloc[:,:-1].values
Y = df.iloc[:,-1].values

X_train,X_test,Y_train,Y_test = train_test_split(X,Y,test_size = 0.25)

sc = StandardScaler()
X_train = sc.fit_transform(X_train)
X_test = sc.transform(X_test)

训练模型：

model = RandomForestClassifier(n_estimators=1,criterion='entropy',random_state=1)
model.fit(X_train,Y_train)

测试准确度，这通常会在 0.95-1 左右的任何地方返回：

model.score(X_train,Y_train)

打印真阴性、真阳​​性、假阴性和假阳性的数量：

cm = confusion_matrix(Y_test,model.predict(X_test))

TN = cm[0][0]
TP = cm[1][1]
FN = cm[1][0]
FP = cm[0][1]

print(cm)

print('Model Test Accuracy = {}'. format( (TP + TN )/ (TP + TN + FN + FP) ) )

模型测试准确率通常在80%以上

最后，当我使用模型进行新的预测时，例如：

model.predict_proba([[140,77,25,30]])

它总是返回相同的值，例如“array([[.3,.6]])”，即使我将葡萄糖从 140 切换到 190 或者如果我将 BMI 从 25 切换到 30 等等。唯一一次当我改变估计量的数量时，概率会发生变化，但即便如此，它们也不会随着不同的输入而改变。

对这个问题的任何帮助将不胜感激！

解决方法

正如所评论的，随机森林通常由几棵树（估计器的数量）组成，因此您应该将其更改为例如100. 使用如此少的变量，对于不同的 X 获得相同的概率并非不可能，因为它们可能最终都出现在同一个叶子中。您是否尝试过更显着地更改 X 值，例如将它们全部设置为 0 或非常小与非常高的值？如果您运行 model.predict_proba(X_test)，它会返回什么？另外，我不知道你的树有多深，所以你可能也需要改变它以获得更多的异质性。

仅供参考，一个很好的优化随机森林参数的指南：https://towardsdatascience.com/hyperparameter-tuning-the-random-forest-in-python-using-scikit-learn-28d2aa77dd74