如何解决为什么我的模型在第二个时期过度拟合?
我是深度学习的初学者,我正在尝试训练深度学习模型,以使用Mobilenet_v2和Inception对不同的ASL手势进行分类。
这是我的代码,用于创建ImageDataGenerator来创建训练和验证集。
# Reformat Images and Create Batches
IMAGE_RES = 224
BATCH_SIZE = 32
datagen = tf.keras.preprocessing.image.ImageDataGenerator(
rescale=1./255,validation_split = 0.4
)
train_generator = datagen.flow_from_directory(
base_dir,target_size = (IMAGE_RES,IMAGE_RES),batch_size = BATCH_SIZE,subset = 'training'
)
val_generator = datagen.flow_from_directory(
base_dir,target_size= (IMAGE_RES,subset = 'validation'
)
以下是训练模型的代码:
# Do transfer learning with Tensorflow Hub
URL = "https://tfhub.dev/google/tf2-preview/mobilenet_v2/feature_vector/4"
feature_extractor = hub.KerasLayer(URL,input_shape=(IMAGE_RES,IMAGE_RES,3))
# Freeze pre-trained model
feature_extractor.trainable = False
# Attach a classification head
model = tf.keras.Sequential([
feature_extractor,layers.Dense(5,activation='softmax')
])
model.summary()
# Train the model
model.compile(
optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy'])
EPOCHS = 5
history = model.fit(train_generator,steps_per_epoch=len(train_generator),epochs=EPOCHS,validation_data = val_generator,validation_steps=len(val_generator)
)
第1/5集 94/94 [==============================]-19s 199ms / step-损耗:0.7333-精度:0.7730-val_loss :0.6276-val_accuracy:0.7705
第2/5集 94/94 [==============================]-18s 190ms / step-损耗:0.1574-精度:0.9893-val_loss :0.5118-val_accuracy:0.8145
第3/5集 94/94 [==============================]-18s 191ms / step-损耗:0.0783-精度:0.9980-val_loss :0.4850-val_accuracy:0.8235
第4/5集 94/94 [==============================]-18s 196ms / step-损耗:0.0492-精度:0.9997-val_loss :0.4541-val_accuracy:0.8395
史诗5/5 94/94 [==============================]-18s 193ms / step-损耗:0.0349-精度:0.9997-val_loss :0.4590-val_accuracy:0.8365
我尝试使用数据增强,但是模型仍然过拟合,所以我想知道我的代码是否做错了什么。
解决方法
您的数据非常小。尝试使用随机种子进行拆分,然后检查问题是否仍然存在。
如果这样做,则使用正则化并降低神经网络的复杂性。
还尝试使用不同的优化器和较小的学习率(尝试lr计划程序)
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。