Pada modul ini kita akan membahas cara mengubah model hasil training menggunakan TensorFlow Lite agar dapat digunakan pada mobile device.
TensorFlow Lite adalah extension dari TensorFlow library, digunakan untuk konversi dan optimisasi model untuk digunakan di mobile devices (contoh: smartphone).
Proses training tetap dilakukan di komputer. Setelah proses training selesai, convert dan optimize model menggunakan TF Lite. Model yang dihasilkan lebih kecil dan optimal, hingga dapat digunakan di mobile device dengan bantuan TF Lite Interpreter.
Beberapa teknik model optimization untuk mobile device
- optimize model topology, dengan mengurangi jumlah layer, mengurangi fully connected layer. Kekurangannya adalah keakuratan model akan berkurang.
- Mengurangi netwrok parameter precission dengan quantization. Teknik untuk mengurangi ukuran normal floating number menjadi angka 8 bit. Umumnya teknik ini tidak mempengaruhi akurasi model.
- Mengurangi parameter count.
Jika Anda berminat untuk mendalami lebih jauh secara matematis mengenai TF Lite optimzation, silakan kunjungi https://sahnimanas.github.io/post/quantization-in-tflite/
Proses Konversi dan Optimize Model
Asumsi model sudah selesai ditraining dan ditest, nama variable model adalah model. Berikut langkah konversi dari TensorFlow ke Lite:
- Buat converter dengan fungsi tf.lite.TFLiteConverter.from_keras_model().
- Selanjutnya buat TensorFlow Lite model dengan menggunakan perintah convert().
- Terakhir, simpan kedalam file.
converter = tf.lite.TFLiteConverter.from_keras_model(model)
tflite_model = converter.convert()
with open("tf_model.tflite", "wb") as f:
f.write(tflite_model)
TIPS: JIka Model TensorFlow sudah berupa file, Anda dapat menggunakan perintah, tf.lite.TFLiteConverter.from_saved_model().
File colab akses di https://colab.research.google.com/drive/1xhjbpyucdltyqY4Fkreh_KR5A6219qnN?usp=sharing