- Puntos de entrenamiento
- Puntos de prueba
- Frontera de decisión
- Pérdida de entrenamiento
- Pérdida de prueba
Simulador de redes neuronales
Una red neuronal es una pila de unidades sencillas que suman entradas ponderadas y pasan la suma por una curva. Por sí sola, cada unidad solo puede trazar una línea recta, pero juntas pueden dibujar un círculo, una espiral o cualquier otra forma. Elige un conjunto de datos, construye una red de hasta cuatro capas ocultas, pulsa Entrenar y observa cómo la frontera entre el azul y el naranja se curva hasta tomar forma, época tras época, mientras cada neurona muestra la parte del patrón que ha aprendido a detectar. Elige un conjunto de datos y una red, pulsa Entrenar y observa cómo la red aprende a separar los puntos azules de los naranjas. Los puntos rellenos entrenan la red; los anillos son puntos de prueba con los que nunca se entrena. El fondo muestra la respuesta de la red para cada punto del plano, y la línea marca dónde cambia de opinión. En el diagrama, cada neurona muestra a qué responde, y cada conexión es azul para un peso positivo y naranja para uno negativo, más gruesa cuanto mayor es el peso. Haz clic en el plano para añadir puntos del color elegido en «Clic añade».
Cómo funciona
- Elige un conjunto de datos, desde dos nubes que una recta puede separar hasta una espiral que necesita varias capas, o haz clic en el plano para colocar tus propios puntos.
- Ajusta las capas ocultas, las neuronas por capa, la activación, la tasa de aprendizaje y las entradas que recibe la red.
- Pulsa Entrenar y observa la frontera, las neuronas y la pérdida; compara la pérdida de entrenamiento con la de prueba para detectar el sobreajuste.
Qué hace la red
Cada neurona multiplica sus entradas por pesos, añade un sesgo y pasa el total por una función de activación como tanh o ReLU. Cada neurona de la primera capa oculta divide el plano a lo largo de una recta, suavizada en un degradado. La capa siguiente combina esos semiplanos en cuñas, bandas y manchas, y la neurona de salida convierte el resultado en una probabilidad de azul. El fondo del plano muestra esa probabilidad en todas partes, y la línea oscura está donde vale exactamente un medio: la frontera de decisión.
Cómo aprende
El entrenamiento parte de pesos aleatorios. Para un pequeño lote de puntos de entrenamiento, la red compara sus respuestas con los colores verdaderos, y la retropropagación calcula, desde la salida hacia atrás hasta las entradas, cuánto ha contribuido cada peso al error. Después, cada peso se mueve un pequeño paso, la tasa de aprendizaje, en la dirección que reduce la pérdida. Una pasada por todos los puntos de entrenamiento es una época. Una tasa de aprendizaje demasiado pequeña hace que el progreso sea lento; una demasiado grande hace que la pérdida dé saltos o se dispare. Los puntos de prueba nunca se usan para entrenar, así que la pérdida de prueba muestra lo bien que generaliza la red.
Preguntas frecuentes
¿Por qué una red sin capas ocultas no puede aprender el círculo ni el XOR?
Sin capas ocultas, la salida es función de una única suma ponderada de las entradas, así que la frontera es una línea recta. Ninguna recta deja el interior de un círculo a un lado y el anillo al otro, ni separa las dos diagonales del XOR. Marvin Minsky y Seymour Papert lo señalaron en 1969 a propósito de los perceptrones de una capa. Una capa oculta lo resuelve, y también una entrada adicional: con x² e y² el círculo se convierte en un corte recto, y con x·y también el XOR.
¿Qué es el sobreajuste y cómo lo veo aquí?
Una red se sobreajusta cuando se aprende de memoria los puntos de entrenamiento, ruido incluido, en lugar del patrón que hay detrás. Elige un conjunto de datos con ruido y pocos puntos y una red grande, y entrena durante mucho tiempo: la pérdida de entrenamiento sigue bajando mientras la de prueba se estanca y empieza a subir, y la frontera forma pequeñas islas alrededor de puntos sueltos. Menos neuronas, más puntos o parar antes ayudan.
¿Qué función de activación debería usar?
Tanh da fronteras suaves y redondeadas y entrena bien en estos problemas pequeños. ReLU, que vale cero para las sumas negativas y la propia suma en los demás casos, es la opción por defecto en el aprendizaje profundo moderno y da fronteras formadas por tramos rectos. Sigmoide aprende más despacio en las capas ocultas porque su pendiente es pequeña. Lineal hace inútil cada capa oculta: una pila de capas lineales sigue siendo una única función lineal, así que la frontera sigue siendo recta.
¿Qué significan las pequeñas imágenes del diagrama de la red?
Cada una muestra la salida de una neurona para cada punto del plano, azul para los valores altos y naranja para los bajos. Las neuronas de entrada muestran x, y y las demás entradas, la primera capa oculta muestra semiplanos suavizados, y las neuronas más profundas muestran las formas más complejas construidas a partir de ellos. Las conexiones son azules para los pesos positivos y naranjas para los negativos, más gruesas cuanto mayor es el peso.
¿Se envía algo a un servidor?
No. Los datos, la red y el entrenamiento se ejecutan en tu navegador con JavaScript puro, sin ninguna biblioteca de aprendizaje automático. Tus ajustes y los puntos que añades con clics se quedan en el almacenamiento local de este navegador.
¿Listo para probarlo?
Abre PictorX en tu navegador: sin instalación ni tarjeta de crédito para empezar.
Ir al editor