Tugas
Last updated
Was this helpful?
Last updated
Was this helpful?
Prosedur pelatihan pada praktikum 2 merupakan prosedur sederhana, yang tidak memberi Anda banyak kendali. Model ini menggunakan "teacher-forcing" yang mencegah prediksi buruk diumpankan kembali ke model, sehingga model tidak pernah belajar untuk pulih dari kesalahan. Jadi, setelah Anda melihat cara menjalankan model secara manual, selanjutnya Anda akan mengimplementasikan custom loop pelatihan. Hal ini memberikan titik awal jika, misalnya, Anda ingin menerapkan pembelajaran kurikulum untuk membantu menstabilkan keluaran open-loop model. Bagian terpenting dari loop pelatihan khusus adalah fungsi langkah pelatihan.
Gunakan untuk men track nilai gradient. Anda dapat mempelajari lebih lanjut tentang pendekatan ini dengan membaca .
Prosedurnya adalah "
Jalankan Model dan hitung loss dengan .
Hitung update dan terapkan pada model dengan optimizer
Kode diatas menerapkan train_step
method sesuai dengan . Ini opsional, tetapi memungkinkan Anda mengubah perilaku langkah pelatihan dan tetap menggunakan keras and methods.
Atau jika ingin lebih mengetahui dalamnya, kita bisa membuat custom training loop sendiri:
Jalankan kode diatas dan sebutkan perbedaanya dengan praktikum 2?