Epoch
Kesalahan di epoch terakhir
Bobot w₁ · w₂ · b
Konvergen
  • Kelas +1
  • Kelas −1
  • Salah klasifikasi
  • Batas keputusan
  • Vektor bobot w

Klik menambah

Lebih lanjut tentang perceptron

Visualisasi perceptron

Perceptron adalah mesin belajar paling sederhana yang ada: satu neuron buatan yang menjumlahkan input berbobotnya lalu menjawab ya atau tidak. Dengan dua input, jawabannya berganti di sepanjang sebuah garis lurus, dan belajar berarti menggeser garis itu sampai setiap titik berada di sisinya sendiri. Taruh titik dari dua kelas di bidang atau pilih gerbang logika, lalu telusuri aturan Rosenblatt satu sampel demi satu sampel, lihat setiap bobot sebelum dan sesudah pembaruan, dan saksikan garis berputar dan bergeser ke tempatnya, atau gagal selamanya pada XOR. Pilih set data atau klik untuk menaruh titik di bidang: satu klik menambah titik dari kelas yang dipilih di “Klik menambah”, Shift-klik atau klik kanan menambah titik dari kelas lainnya, dan klik pada sebuah titik menghapusnya. Lalu latih neuronnya. Langkah menampilkan satu sampel: cincin putus-putus menandainya, dan tabel menunjukkan bobot sebelum dan sesudah pembaruan w ← w + η·(y − ŷ)·x. Epoch menjalankan satu putaran atas semua titik, dan Putar terus berjalan dengan kecepatan yang dipilih sampai satu putaran tidak membuat kesalahan atau batas epoch tercapai. Garis berada di tempat w₁x + w₂y + b = 0, panah adalah vektor bobot, dan cincin merah menandai titik yang berada di sisi yang salah.

Cara kerjanya

  1. Pilih set data, dari gerbang logika AND, OR, NAND, dan XOR hingga titik acak dengan margin atau dua awan yang bertumpang tindih, atau klik titik Anda sendiri di bidang.
  2. Tekan Langkah untuk menunjukkan satu sampel kepada neuron dan melihat pembaruan setiap bobot, atau tekan Epoch atau Putar untuk melatihnya dengan semua titik.
  3. Amati batas keputusan, vektor bobot, dan kesalahan per epoch sampai satu putaran tanpa kesalahan, lalu coba XOR untuk melihat satu perceptron gagal.

Satu neuron, satu garis

Perceptron dengan input x dan y menghitung w₁x + w₂y + b dan menjawab +1 jika jumlahnya positif dan −1 jika negatif. Jumlah itu bernilai nol tepat di garis w₁x + w₂y + b = 0, sehingga neuron membelah bidang menjadi dua setengah bidang, satu untuk tiap kelas. Vektor bobot (w₁, w₂) tegak lurus terhadap garis itu dan menunjuk ke sisi +1, sedangkan bias b menggeser garis menjauhi titik asal. Dengan memperlakukan bias sebagai bobot w₀ dari input yang selalu bernilai 1, satu aturan dapat melatih ketiga angka sekaligus.

Aturan belajar

Pelatihan menunjukkan satu titik kepada neuron setiap kali. Jika jawabannya benar, tidak ada yang berubah. Jika salah, setiap bobot berubah sebesar η·(y − ŷ) kali inputnya, dengan y kelas sebenarnya, ŷ jawabannya, dan η laju pembelajaran. Itu mendorong garis agar titik tersebut berada di sisi yang benar. Satu putaran atas semua titik disebut epoch. Jika titik-titiknya dapat dipisahkan oleh garis lurus, teorema konvergensi perceptron menjamin aturan sederhana ini menemukan garis seperti itu setelah sejumlah hingga kesalahan; XOR menunjukkan apa yang terjadi bila garis seperti itu tidak ada.

Pertanyaan yang sering diajukan

Mengapa perceptron tidak bisa mempelajari XOR?

XOR bernilai benar untuk (0, 1) dan (1, 0) serta salah untuk (0, 0) dan (1, 1). Dua titik benar terletak pada satu diagonal persegi dan dua titik salah pada diagonal lainnya, dan tidak ada garis lurus yang menaruh satu diagonal di satu sisi dan diagonal lainnya di sisi seberangnya. Satu perceptron hanya bisa menggambar garis lurus, jadi pada XOR ia terus salah, epoch demi epoch, dan tidak pernah konvergen. Lapisan neuron kedua, atau input tambahan seperti x·y, menyelesaikannya.

Apakah perceptron selalu konvergen?

Ia konvergen setiap kali sebuah garis lurus dapat memisahkan kedua kelas: teorema konvergensi perceptron membatasi jumlah pembaruan, paling banyak (R/γ)² untuk aturan dalam bentuk klasiknya, dengan R panjang vektor input terpanjang dan γ margin garis pemisah terbaik. Margin yang kecil bisa berarti banyak epoch. Jika tidak ada garis pemisah, ia tidak pernah konvergen; karena itu aplikasi ini berhenti di batas epoch dan memeriksa apakah titik-titiknya terpisahkan.

Apa fungsi laju pembelajaran?

Laju pembelajaran menentukan besar setiap pembaruan. Jika dimulai dari bobot nol, ia hanya mengalikan semua bobot dengan faktor yang sama dan tidak pernah mengubah garis maupun jumlah kesalahan, sifat unik perceptron. Dengan bobot awal acak, ia berpengaruh: laju kecil membuat garis lebih lama berada dekat posisi awalnya, laju besar membiarkan kesalahan-kesalahan pertama mendominasi.

Apa itu algoritma saku?

Perubahan kecil yang diterbitkan Stephen Gallant pada tahun 1990 untuk data yang tidak bisa dipisahkan oleh garis apa pun. Perceptron berjalan seperti biasa, tetapi setelah setiap pembaruan kesalahan bobot baru pada semua titik dihitung, dan bobot terbaik sejauh ini disimpan di saku (pocket). Garis saku yang digambar putus-putus adalah jawabannya saat pelatihan berhenti, bukan garis yang kebetulan ditinggalkan oleh pembaruan terakhir.

Apakah ada yang dikirim ke server?

Tidak. Titik, pelatihan, dan gambar semuanya berjalan di browser Anda, dan titik serta bobot Anda tetap tersimpan di penyimpanan lokal browser ini.

Siap mencobanya?

Buka PictorX di browser Anda — tanpa instalasi, tanpa kartu kredit untuk memulai.

Ke Editor