如何解决XGBClassifier可提供100%的测试数据准确性吗?
我正在努力建立一个使用NASA数据集预测小行星危害性的模型。 数据集本身没有任何空值。在消除了不相关的功能(例如ID)之后,我只有几类属于日期时间的列。因此,我以这种方式将数据分为80条训练和20条测试:
X_train,X_test= np.split(X,[int(.80 *len(X))])
y_train,y_test= np.split(y,[int(.80 *len(X))])
然后,我制作了一个个性化的转换器来处理日期,为日,月和年创建新列,并从数据中删除了原始日期功能:
from sklearn.base import BaseEstimator
class DateProcessor(BaseEstimator):
def __init__(self):
pass
def fit(self,documents,y=None):
return self
def transform(self,df):
dateCols = ['Close Approach Date','Orbit Determination Date']
new_df = df.copy()
for col in dateCols:
new_df[col] = pd.to_datetime(new_df[col],errors="coerce",format="%Y-%m-%d")
#df.dropna(axis=1,subset=['date'],inplace=True)
newColsDict = {'day': str(col) + " day",'month': str(col) + " month",'year': str(col) + " year"}
new_df[newColsDict['day']] = new_df[col].dt.day
new_df[newColsDict['month']] = new_df[col].dt.month
new_df[newColsDict['year']] = new_df[col].dt.year
new_df.drop(inplace=True,columns=dateCols)
return new_df
之后,我制作了一个管道来预处理数据,然后使用XGBClassifier对其进行训练:
estimator = XGBClassifier(learning_rate=0.1)
model_pipeline = Pipeline(steps=[
('process_dates',DateProcessor()),('XGBoost',estimator)
])
model_pipeline.fit(X_train,y_train)
在训练之后,我尝试的每个得分指标都给出100%的准确性。我对AI的经验不是很丰富,但是我认为测试数据的100%准确性通常表明存在问题? 我真的不知道是否存在某种形式的数据泄漏,数据污染或类似情况。 PD:我也尝试使用普通的train_test_split(结果相似),但是我在这里读到一篇文章,由于datetime功能的有序性质,这是不正确的。
我将指向完整代码的链接保留在我的github存储库中:NASA Asteroids Classification Model
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。