Bayesian Learning

Machine Learning dengan Naive Bayes

Pernahkah kita mencoba berifikir bagaimana kita mengambil keputusan sehari – hari ?. Tentu ada perbedaan pendapat dalam menentukan sebuah keputusan. Misal dari berbagai keputusan tersebut ada yang cara mengambil keputusan tersebut dari Intuisi dan tentu saja ada yang mengambil keputusan dari pengalaman.

                Contoh pengambilan keputusan dari pengalaman tersebut adalah misal anda sudah 3 kali makan mie pedas di 3 buah restaurant yang berbeda – beda dan setelah anda makan anda akan mersakan perut yang sakit. Lalu anda ke sebuah restaurant untuk membeli sebuah Mie yang tidak pedas dan hasilnya adalah perut anda tidak sakit. Tentu saja ketika anda akan makan di sebuah restaurant lagi, berdasarkan pengalaman anda tentu anda akan memilih sebuah menu yang tidak pedas karena dari pengalaman anda tersebut menu pedas bisa membuat perut anda sakit.

                Memilih menu di restaurant tersebut merupakan salah satu contoh mengambil keputusan berdasarkan pengalaman. Namun bagaimana untuk mengambil keputusan untuk sesuatu hal yang lebih rumit dari permasalahan diatas ?. Misal untuk memutuskan ketika anda ingin berolahraga atau tidak anda harus mempertimbangkan faktor temparatur suhu, kecepatan angin dan cuaca.

                Oleh sebab itu digunakan sebuah teknik yaitu Machine Learning. Machine Learning adalah proses pembelajaran pada sebuah mesin, yang nantinya mesin tersebut dapat belajar dari data – data yang sudah ada dan bisa membantu kita dalam Menentukan keputusan.

                Ada banyak sekali metode dalam Machine Learning. Sedangkan metode yang akan  kita bahas pada artikel ini adalah Metode Bayesian Learning.

Bayesian Learning

                Salah satu metode dalam Machine Learning yang akan kita pelajari ini adalah Bayesian Learning.

                Mengapa Menggunakan Bayesian Learning ?

·         Karena Bayesian Learning ini cocok untuk sebuah data yang tidak konsisten, dibandingkan dengan metode lainnya seperti Find-S (Salah satu metode machine Learning Lainnya)

·         Bayesian Learning merupakan metode yang baik di dalam mesin pembelajaran berdasarkan data training, dengan menggunakan probabilitas bersyarat sebagai dasarnya.

#  Probabilitas Bersyarat

Sebelum beranjak mengenal lebih dalam tentang Teorema Bayes. Terelebih dahulu kita harus mengetahui tentang Probabilitas Bersyarat. Karena probabilitas bersyarat ini menjadi dasar dari teorema bayes

Gambar diatas adalah sebuah contoh dari probabilitas bersyarat dimana Probabilitas X didalam Y sama dengan Probabilitas X irisan Y dibagi dengan Probabilitas Y.

Misalkan kita melihat contoh dari data dibawah ini.

Dari data Diatas Probabilitas Ya dalam kesuluruhan data adlah 4/6

P(Olahraga=Ya) = 4/6

Lalu dengan menggunakan Rumus Probabilitas Bersyarat Probabilitas Untuk cuaca cerah dalam Berolah – raga = Ya adalah P(cuaca=cerah dan olahraga=ya) = 4/6 Maka :

P(cuaca = cerah | olahraga = ya ) = 4/6 / 4/6 = 1

#  Metode Bayes

                “Keadaan Posterior (Probabilitas Xk dalam Y) dapat dihitung dari keadaan prior (Probabilitas Y di dalam Xk dibagi dengan jumlah dari semua probabilitas Y di dalam semua Xi)”

                Jadi dalam metode bayes kita dapat menghitung probabilitas Xk didalam Y dengan cara menghitung Probabilitas Y didalam Xk dibagi dengan jumlah dari semua probabilitas Y di dalam semua Xi.

# Map Hypothesis

MAP (Maximum A prior Probability) Hypothesis adalah hiptesa yang diambil berdasarkan nilai Probabilitas berdasarkan kondisi Prior yang diketahui. Dengan ditunjukkan Gambar dibawah ini.

Dimana h adalah Hipotesa dan D adalah Data yang ada pada permasalahtersebut. Untuk mencari h(map) map hypotesis kita harus mencari Prior Probability yang memiliki nilai maksimum. Berhubung pembagi pada nilai P(D) selalu sama makan pembagi P(D) kita hilangkan.

# Bayes Theorem

Peluang Posterior dari h P(h|D): Merepresentasikan probabilitas h kepada seluruh data training Observasi D.

Dengan teorema Bayes kita dapat menghitung P(h|D) :

#  Naive Bayes Classifier

·         Anggap setiap x dari training set D di deskripsikan oleh konjungsi dari nilai dari n attribute <a1,a2,..,an> dan anggal f(x), sebagai fungsi tujuan. Sehingga f(x) adalah elemen dari V adalah sebuah set yang terbatas.

Pada rumus diatas untuk mendapatkan sebuah Vmap maka kita perlu mencari nilai tertinggi  dari Probabilitas masing – masing opsi mulai dari a1,a2,...,an didalam vj dikalikan probabilitas vj dalam data.

·         Dengan pendekatan bayesian

Dengan mengasumsikan nilai attribut secara kondisional independet sehingga P(a1,a2,...,an | vj) = (pi) P(a1,vj). Setiap element nya tidak dependent terhadap satu sma lain.