- Classe +1
- Classe −1
- Mal classificado
- Fronteira de decisão
- Vetor de pesos w
- Reta do bolso
| Peso | Antes | Variação | Depois |
|---|
- Erros por época
- Erros do bolso
Visualizador do perceptrão
O perceptrão é a máquina que aprende mais simples que existe: um único neurónio artificial que soma as suas entradas ponderadas e responde sim ou não. Com duas entradas, a resposta muda ao longo de uma reta, e aprender significa deslocar essa reta até cada ponto ficar do seu lado. Ponha no plano pontos de duas classes ou escolha uma porta lógica, depois percorra a regra de Rosenblatt exemplo a exemplo, veja cada peso antes e depois da atualização e observe a reta a rodar e a deslizar para o seu lugar, ou a falhar para sempre no XOR. Escolha um conjunto de dados ou clique para pôr pontos no plano: um clique adiciona um ponto da classe escolhida em «Clique adiciona», um Shift-clique ou um clique direito um ponto da outra classe, e um clique num ponto remove-o. Depois treine o neurónio. Passo mostra um exemplo: o anel tracejado assinala-o e a tabela mostra os pesos antes e depois da atualização w ← w + η·(y − ŷ)·x. Época faz uma passagem por todos os pontos, e Reproduzir continua à velocidade escolhida até uma passagem não cometer nenhum erro ou ser atingido o limite de épocas. A reta é onde w₁x + w₂y + b = 0, a seta é o vetor de pesos e um anel vermelho marca um ponto do lado errado.
Como funciona
- Escolha um conjunto de dados, das portas lógicas AND, OR, NAND e XOR a pontos aleatórios com margem ou duas nuvens sobrepostas, ou ponha os seus próprios pontos no plano.
- Carregue em Passo para mostrar ao neurónio um exemplo e ver a atualização de cada peso, ou em Época ou Reproduzir para o treinar com todos os pontos.
- Observe a fronteira de decisão, o vetor de pesos e os erros por época até uma passagem não ter erros, e experimente o XOR para ver um único perceptrão falhar.
Um neurónio, uma reta
Um perceptrão com entradas x e y calcula w₁x + w₂y + b e responde +1 quando a soma é positiva e −1 quando é negativa. A soma é zero exatamente sobre a reta w₁x + w₂y + b = 0, por isso o neurónio corta o plano em dois semiplanos, um para cada classe. O vetor de pesos (w₁, w₂) é perpendicular a essa reta e aponta para o lado +1, e o viés b afasta a reta da origem. Tratar o viés como o peso w₀ de uma entrada que vale sempre 1 permite que uma única regra treine os três números.
A regra de aprendizagem
O treino mostra ao neurónio um ponto de cada vez. Se responde certo, nada muda. Se erra, cada peso varia η·(y − ŷ) vezes a sua entrada, onde y é a classe verdadeira, ŷ a resposta e η a taxa de aprendizagem. Isso empurra a reta para pôr o ponto do lado certo. Uma passagem por todos os pontos é uma época. Se os pontos puderem ser separados por uma reta, o teorema de convergência do perceptrão garante que esta regra simples encontra uma após um número finito de erros; o XOR mostra o que acontece quando essa reta não existe.
Perguntas frequentes
Porque é que um perceptrão não consegue aprender o XOR?
O XOR é verdadeiro para (0, 1) e (1, 0) e falso para (0, 0) e (1, 1). Os dois pontos verdadeiros estão numa diagonal do quadrado e os dois falsos na outra, e nenhuma reta põe uma diagonal de um lado e a outra do outro. Um único perceptrão só traça retas, por isso no XOR continua a errar, época após época, e nunca converge. Uma segunda camada de neurónios, ou uma entrada extra como x·y, resolve o problema.
O perceptrão converge sempre?
Converge sempre que uma reta pode separar as duas classes: o teorema de convergência do perceptrão limita o número de atualizações, a no máximo (R/γ)² para a regra na sua forma clássica, onde R é o comprimento do maior vetor de entrada e γ a margem da melhor reta separadora. Uma margem pequena pode significar muitas épocas. Se não existir reta separadora, nunca converge; é por isso que a aplicação para num limite de épocas e verifica se os pontos são separáveis.
O que faz a taxa de aprendizagem?
Define o tamanho de cada atualização. Partindo de pesos nulos, apenas multiplica todos os pesos pelo mesmo fator e nunca muda a reta nem o número de erros, uma curiosa propriedade do perceptrão. Com pesos iniciais aleatórios importa: uma taxa pequena mantém a reta mais tempo perto de onde começou, uma grande deixa os primeiros erros dominar.
O que é o algoritmo do bolso?
Uma pequena alteração, publicada por Stephen Gallant em 1990, para dados que nenhuma reta separa. O perceptrão funciona como de costume, mas após cada atualização contam-se os erros dos novos pesos em todos os pontos, e os melhores pesos até ao momento são guardados no bolso («pocket»). A reta do bolso, tracejada, é a resposta quando o treino para, em vez da reta que a última atualização deixou por acaso.
É enviado algo para um servidor?
Não. Os pontos, o treino e o desenho funcionam todos no seu navegador, e os seus pontos e pesos ficam no armazenamento local deste navegador.
Pronto para experimentar?
Abra o PictorX no seu navegador – sem instalação, sem necessidade de cartão de crédito para começar.
Ir para o editor