statistik part 2

2.1     Jaringan Syaraf Tiruan (JST)

Model JST yang umum digunakan adalah berdasarkan algoritma backpropagation dengan menggunakan fungsi sigmoid sebagai fungsi transfer jaringan. Berdasarkan studi Wang, bahwa lebih baik kinerja JST bila memiliki tiga lapisan, yaitu: lapisan masukan, lapisan tersembunyi dan lapisan keluaran. ^[4]

Adapun algoritma pelatihan backpropagation ^[2] adalah sebagai berikut:

[1]   Inisialisasi pembobot

Pembobot awal dipilih secara acak (random), kemudian setiap sinyal input diberikan ke dalam noda pada lapisan masukan, lalu sinyal akan dikirim ke noda pada lapisan tersembunyi selanjutnya.

[2]   Perhitungan nilai aktivasi

Setiap noda pada lapisan tersembunyi, dihitung nilai net inputnya dengan cara menjumlahkan seluruh hasil perkalian antara noda input dengan pembobotnya sesuai dengan persamaan berikut.

                                          (5)

Dimana: p=indeks pasangan input-output yang dipilh dari set pelatihan, NetL^p _i=net input dari noda ke-i pada lapisan L yang berhubungan dengan pasangan ke-p, output noda ke-j pada lapisan L dikurangi satu (L-1) berhubungan dengan pasangan ke-p dan Wij=pembobot yang berhubungan noda ke-j pada lapisan  (L-1) dengan noda ke-i  pada lapisan ke L.

Jika setiap noda pada lapisan ini telah menerima nilai net input, langkah selanjutnya adalah memasukkan nilai net input setiap noda ke dalam fungsi sigmoid sebagai berikut:

                                              (6)

[3]   Perbaikan nilai pembobot

Nilai output dari setiap noda pada output layer hasil perhitungan pada jaringan dibandingkan dengan nilai target yang diberikan. Galat dihitung berdasarkan hubungan antara nilai output jaringan dengan nilai target yang dihitung sesuai dengan persamaan  sebagai berikut:

                                              (7)

dimana: E^p=nilai galat pasangan ke-p, O^p_i=nilai output noda ke-i untuk pasangan ke-p, T^p_i=nilai target ke-i pada pasangan ke-p, Algoritma ini memperkecil galat dengan cara perambatan balik. Pada setiap lapisan dilakukan perubahan pembobot dengan menggunakan perhitungan matematika yang disebut dengan metode delta rule. Perubahan pembobot yang didapatkan sesuai dengan persamaan  sebagai berikut:

                                           (8)

dimana: perubahan nilai pembobot pWij pada pasangan ke-p, konstanta laju pelatihan (learning rate) dan galat output ke-i pada lapisan L untuk pasangan ke-p.

Galat pada noda output dihitung sesuai dengan persamaan  sebagai berikut:

                          (9)

Galat pada noda dalam lapisan tersembunyi adalah sesuai dengan persamaan (17) berikut ini:

    (10)

dimana: galat noda pada satu lapisan di depan lapisan L untuk pasangan ke-p dan W_ki=pembobot dari noda ke-i pada lapisan didepannya, nilai laju pelatihan harus dipilih antara 0 sampai dengan 0.9. Laju pelatihan menentukan kecepatan pelatihan sampai sistem mencapai keadaan optimal.

Prinsip dasar algoritma backpropagation adalah  memperkecil galat hingga mencapai minimum global. Minimum lokal adalah dimana galat sistem turun akan tetapi bukan merupakan solusi yang baik bagi jaringan tersebut. Pemilihan nilai  laju pelatihan sangat penting karena jika nilainya besar akan membuat sistem jaringan melompati nilai minimum lokalnya dan akan berosilasi sehingga tidak mencapai konvergensi. Sebaliknya nilai laju pelatihan yang kecil menyebabkan sistem jaringan terjebak dalam minimum lokal dan memerlukan waktu yang lama selama proses pelatihan. Untuk menghindari keadaan tersebut maka ditambahkan suatu nilai konstanta momentum antara 0 sampai dengan 0.9 pada sistem tersebut, dengan demikian nilai laju pelatihan dapat ditingkatkan dan osilasi pada sistem dapat diminimumkan. Perubahan nilai pembobot setelah dilakukan penambahan konstanta memontum sesuai dengan persamaan  sebagai berikut:

        (11)

dimana: perubahan nilai pembobot baru pada pasangan ke-p, perubahan nilai pembobot lama pada pasangan ke-p dan konstanta momentum.

Penyesuaian nilai pembobot diberikan sesuai pada persamaan  sebagai berikut:

                                                                               (12)

dimana: nilai pembobot baru pada pasangan   ke-p dannilai pembobot lama pada pasangan   ke-p.

[4]   Pengulangan (Iterasi)

Pengulangan kembali ke tahap [2] dan [3]. Keseluruhan proses ini dilakukan secara berulang-ulang dan setiap perulangan mencakup pemberian pasangan nilai input-output, perhitungan nilai aktivasi dan perubahan nilai pembobot.

Kinerja jaringan dapat dinilai berdasarkan nilai RMS Error (Root Mean Square Error) pada proses generalisasi terhadap contoh data input-output baru, adapun persamaan RMS Error adalah:

                                       (13)

Dimana:

Y=nilai prediksi jaringan

T=nilai target yang diberikan pada jaringan

n=jumlah contoh data pada set validasi