Early Stopping Model Training

Early stopping model training adalah strategi atau pendekatan untuk menghentikan training model untuk mencegah overfitting model.

Pada lesson dan course sebelumnya, kita hanya melatih model dengan pendekatan sederhana. Hal ini sengaja dilakukan karena saat itu masalah overfitting belum diperkenalkan.

Pada lesson Simple Linear Regression Menggunakan TensorFLow, kita hanya menentukan jumlah epoch. Tidak ada kepastian apakah minimum cost function sudah dicapai. Dan ada kemungkinan model overfit.

Oleh karena itu, pendekatan yang dapat dilakukan berikutnya adalah berhenti melakukan training saat loss function <= 0.001. Strategi ini memastikan kita mencapai minimum. Namun ada kemungkinan model overfit.

Strategi yang paling baik adalah menggunakan validation dataset untuk mencegah overfit dan dikombinasikan dengan strategi diatas yaitu memastikan loss function minimum.

Jadi kita akan berhenti melatih model saat Loss dari validation test membesar atau loss dari training sudah terlalu kecil ( <= 0.001).

Sharing is caring: