Epok
Fel i senaste epoken
Vikter w₁ · w₂ · b
Konvergerad
  • Klass +1
  • Klass −1
  • Felklassificerad
  • Beslutsgräns
  • Viktvektor w

Klick lägger till

Mer om perceptronen

Perceptronvisualisering

Perceptronen är den enklaste lärande maskin som finns: en enda artificiell neuron som summerar sina viktade indata och svarar ja eller nej. Med två indata skiftar svaret längs en rät linje, och att lära sig betyder att flytta linjen tills varje punkt ligger på sin egen sida. Klicka in punkter av två klasser i planet eller välj en logisk grind, gå sedan igenom Rosenblatts regel ett exempel i taget, se varje vikt före och efter uppdateringen och se linjen vrida sig och glida på plats – eller misslyckas för alltid på XOR. Välj en datamängd eller klicka in punkter i planet: ett klick lägger till en punkt av klassen som är vald under ”Klick lägger till”, ett skift-klick eller högerklick en punkt av den andra klassen, och ett klick på en punkt tar bort den. Träna sedan neuronen. Steg visar ett exempel: den streckade ringen markerar det, och tabellen visar vikterna före och efter uppdateringen w ← w + η·(y − ŷ)·x. Epok kör ett varv genom alla punkter, och Spela fortsätter i vald hastighet tills ett varv inte gör något fel eller epokgränsen nås. Linjen ligger där w₁x + w₂y + b = 0, pilen är viktvektorn och en röd ring markerar en punkt på fel sida.

Hur det fungerar

  1. Välj en datamängd, från de logiska grindarna AND, OR, NAND och XOR till slumpmässiga punkter med marginal eller två överlappande moln, eller klicka in egna punkter i planet.
  2. Tryck på Steg för att visa neuronen ett exempel och se uppdateringen av varje vikt, eller på Epok eller Spela för att träna på alla punkter.
  3. Följ beslutsgränsen, viktvektorn och felen per epok tills ett varv är felfritt, och prova XOR för att se en enda perceptron misslyckas.

En neuron, en linje

En perceptron med indata x och y beräknar w₁x + w₂y + b och svarar +1 när summan är positiv och −1 när den är negativ. Summan är noll exakt på linjen w₁x + w₂y + b = 0, så neuronen delar planet i två halvplan, ett för varje klass. Viktvektorn (w₁, w₂) står vinkelrätt mot linjen och pekar in i +1-sidan, och biasen b flyttar linjen bort från origo. Om biasen behandlas som vikten w₀ för en indata som alltid är 1 kan en enda regel träna alla tre talen.

Inlärningsregeln

Under träningen får neuronen se en punkt i taget. Svarar den rätt händer ingenting. Svarar den fel ändras varje vikt med η·(y − ŷ) gånger sin indata, där y är den sanna klassen, ŷ svaret och η inlärningshastigheten. Det knuffar linjen så att punkten hamnar på rätt sida. Ett varv genom alla punkter är en epok. Om punkterna kan skiljas åt av en rät linje garanterar perceptronens konvergenssats att den här enkla regeln hittar en sådan linje efter ett ändligt antal fel; XOR visar vad som händer när någon sådan linje inte finns.

Ofta ställda frågor

Varför kan en perceptron inte lära sig XOR?

XOR är sant för (0, 1) och (1, 0) och falskt för (0, 0) och (1, 1). De två sanna punkterna ligger på den ena diagonalen i kvadraten och de två falska på den andra, och ingen rät linje kan lägga den ena diagonalen på ena sidan och den andra på andra sidan. En enda perceptron kan bara dra räta linjer, så på XOR fortsätter den att göra fel, epok efter epok, och konvergerar aldrig. Ett andra lager av neuroner, eller en extra indata som x·y, löser det.

Konvergerar perceptronen alltid?

Den konvergerar när en rät linje kan skilja de två klasserna åt: perceptronens konvergenssats begränsar antalet uppdateringar, till högst (R/γ)² för regeln i dess klassiska form, där R är längden på den längsta indatavektorn och γ marginalen för den bästa separerande linjen. En liten marginal kan innebära många epoker. Finns det ingen separerande linje konvergerar den aldrig, och därför stannar appen vid en epokgräns och kontrollerar om punkterna är separerbara.

Vad gör inlärningshastigheten?

Den bestämmer storleken på varje uppdatering. Från nollvikter multiplicerar den bara alla vikter med samma faktor och ändrar aldrig linjen eller antalet fel – en märklig egenskap hos perceptronen. Med slumpmässiga startvikter spelar den roll: en liten hastighet håller linjen nära startläget längre, en stor låter de första felen dominera.

Vad är fickalgoritmen?

En liten ändring, publicerad av Stephen Gallant 1990, för data som ingen linje kan skilja åt. Perceptronen körs som vanligt, men efter varje uppdatering räknas de nya vikternas fel på alla punkter, och de bästa vikterna hittills läggs i fickan (”pocket”). Den streckade fickans linje är svaret när träningen stannar, i stället för den linje som den senaste uppdateringen råkade lämna kvar.

Skickas något till en server?

Nej. Punkterna, träningen och ritandet körs i din webbläsare, och dina punkter och vikter stannar i webbläsarens lokala lagring.

Redo att prova det?

Öppna PictorX i din webbläsare - ingen installation, inget kreditkort krävs för att starta.

Gå till Editor