- Clasa +1
- Clasa −1
- Clasificat greșit
- Frontieră de decizie
- Vectorul ponderilor w
- Dreapta din buzunar
| Pondere | Înainte | Modificare | După |
|---|
- Greșeli pe epocă
- Greșelile buzunarului
Vizualizator de perceptron
Perceptronul este cea mai simplă mașină care învață: un singur neuron artificial care își adună intrările ponderate și răspunde da sau nu. Cu două intrări, răspunsul se schimbă de-a lungul unei drepte, iar a învăța înseamnă a muta această dreaptă până când fiecare punct se află de partea lui. Puneți în plan puncte din două clase sau alegeți o poartă logică, apoi parcurgeți regula lui Rosenblatt exemplu cu exemplu, vedeți fiecare pondere înainte și după actualizare și urmăriți cum dreapta se rotește și alunecă la locul ei – sau eșuează la nesfârșit pe XOR. Alegeți un set de date sau dați clic pentru a pune puncte în plan: un clic adaugă un punct din clasa aleasă la „Clic adaugă”, Shift+clic sau clic dreapta unul din cealaltă clasă, iar un clic pe un punct îl elimină. Apoi antrenați neuronul. Pas arată un exemplu: inelul punctat îl marchează, iar tabelul arată ponderile înainte și după actualizarea w ← w + η·(y − ŷ)·x. Epocă face o trecere prin toate punctele, iar Redare continuă cu viteza aleasă până când o trecere nu face nicio greșeală sau se atinge limita de epoci. Dreapta este locul unde w₁x + w₂y + b = 0, săgeata este vectorul ponderilor, iar un inel roșu marchează un punct aflat de partea greșită.
Cum funcționează
- Alegeți un set de date, de la porțile logice AND, OR, NAND și XOR la puncte aleatoare cu margine sau doi nori suprapuși, ori puneți propriile puncte în plan.
- Apăsați Pas pentru a-i arăta neuronului un exemplu și a vedea actualizarea fiecărei ponderi, sau Epocă ori Redare pentru a-l antrena pe toate punctele.
- Urmăriți frontiera de decizie, vectorul ponderilor și greșelile pe epocă până când o trecere nu are greșeli, și încercați XOR ca să vedeți un singur perceptron eșuând.
Un neuron, o dreaptă
Un perceptron cu intrările x și y calculează w₁x + w₂y + b și răspunde +1 când suma este pozitivă și −1 când este negativă. Suma este zero exact pe dreapta w₁x + w₂y + b = 0, așa că neuronul taie planul în două semiplane, câte unul pentru fiecare clasă. Vectorul ponderilor (w₁, w₂) este perpendicular pe dreaptă și arată spre partea +1, iar biasul b îndepărtează dreapta de origine. Dacă biasul este tratat ca ponderea w₀ a unei intrări mereu egale cu 1, o singură regulă antrenează toate cele trei numere.
Regula de învățare
La antrenare, neuronul vede câte un punct pe rând. Dacă răspunde corect, nu se schimbă nimic. Dacă greșește, fiecare pondere se modifică cu η·(y − ŷ) înmulțit cu intrarea sa, unde y este clasa adevărată, ŷ răspunsul și η rata de învățare. Asta împinge dreapta astfel încât punctul să ajungă de partea corectă. O trecere prin toate punctele este o epocă. Dacă punctele pot fi separate de o dreaptă, teorema de convergență a perceptronului garantează că această regulă simplă găsește o astfel de dreaptă după un număr finit de greșeli; XOR arată ce se întâmplă când o asemenea dreaptă nu există.
Întrebări frecvente
De ce nu poate un perceptron să învețe XOR?
XOR este adevărat pentru (0, 1) și (1, 0) și fals pentru (0, 0) și (1, 1). Cele două puncte adevărate stau pe o diagonală a pătratului, iar cele două false pe cealaltă, și nicio dreaptă nu pune o diagonală de o parte și cealaltă de cealaltă parte. Un singur perceptron poate trasa doar drepte, așa că pe XOR greșește epocă după epocă și nu converge niciodată. Un al doilea strat de neuroni sau o intrare suplimentară precum x·y rezolvă problema.
Converge perceptronul întotdeauna?
Converge ori de câte ori o dreaptă poate separa cele două clase: teorema de convergență a perceptronului limitează numărul de actualizări, la cel mult (R/γ)² pentru regula în forma ei clasică, unde R este lungimea celui mai lung vector de intrare, iar γ marginea celei mai bune drepte de separare. O margine mică poate însemna multe epoci. Dacă nu există nicio dreaptă de separare, nu converge niciodată; de aceea aplicația se oprește la o limită de epoci și verifică dacă punctele sunt separabile.
Ce face rata de învățare?
Stabilește mărimea fiecărei actualizări. Pornind de la ponderi nule, doar înmulțește toate ponderile cu același factor și nu schimbă niciodată nici dreapta, nici numărul de greșeli – o proprietate curioasă a perceptronului. Cu ponderi inițiale aleatoare contează: o rată mică ține dreapta mai mult timp aproape de poziția de pornire, una mare lasă primele greșeli să domine.
Ce este algoritmul de buzunar?
O mică modificare, publicată de Stephen Gallant în 1990, pentru date pe care nicio dreaptă nu le separă. Perceptronul rulează ca de obicei, dar după fiecare actualizare se numără greșelile noilor ponderi pe toate punctele, iar cele mai bune ponderi de până atunci sunt păstrate în buzunar (engl. pocket). Dreapta din buzunar, punctată, este răspunsul când antrenarea se oprește, în locul dreptei pe care ultima actualizare a lăsat-o întâmplător.
Se trimite ceva către un server?
Nu. Punctele, antrenarea și desenul rulează în browserul dumneavoastră, iar punctele și ponderile rămân în stocarea locală a acestui browser.
Ești gata să încerci?
Deschide PictorX în browser – fără instalare și fără card de credit.
Mergi la editor