Abrir por dentro una red neuronal
En 3.1 ajustamos 3.075 pesos. Pero no vimos dónde estaban pegados.
Ahora lo abrimos. Es mucho más simple de lo que parece.
Una calculadora pequeñita
Recibe unos cuantos números, multiplica cada uno por un peso, lo suma todo y saca una respuesta. Hay una calculadora pequeñita que hace solo eso.
A esa calculadora la llamamos .
Y a un montón de neuronas unidas capa sobre capa lo llamamos .
Los pesos están pegados uno en cada unión. Los 3.075 de 3.1 eran 3.075 uniones.
La línea recta se movió sola hasta encontrar su sitio.
Mira el dibujo de la derecha. Hay líneas gruesas y líneas finas. Ese grosor es el peso. Cuanto más gruesa, más se giró.
Lo que en 1.2 girábamos a mano está pegado aquí, así. En este ejercicio solo hay dos, en 3.1 eran 3.075, y en una IA de verdad son millones.
Una neurona traza una sola recta
Aquí sale algo importante: lo único que puede trazar una neurona es una recta.
Porque solo multiplica y suma. Con ese cálculo no se puede trazar nada más complicado que una recta.
Hasta ahora no había problema, porque rojo a la izquierda y azul a la derecha se separan con una sola recta.
Pero ¿y si están colocados así?
Pulsa Ejemplo de colocación · diagonal y vuelve a hacer que aprenda. El cuadro sigue ahí arriba.
La recta no para de temblar. No se detiene. Aunque lo repitas cientos de veces, no sale.
Es que con una sola recta no se puede separar esta colocación. Pruébalo tú: la traces como la traces, siempre queda un lado mezclado.
Lo que pasó en 1969
Aquella máquina de 1958 se llamaba . Es la red neuronal más simple que hay, hecha con una sola neurona.
En 1969, dos investigadores demostraron lo que acabamos de vivir: que el perceptrón solo puede trazar una recta y que por eso no resuelve esto, que está entre los problemas más fáciles del mundo.
Como las expectativas eran grandes, la decepción también lo fue. Se fueron el dinero y la gente, y la investigación en redes neuronales se congeló casi veinte años.
Un solo botón
¿Resolvemos ahora ese problema?
Sale, ¿verdad?
La línea que separa ya no es recta: se ha curvado. Al meter una capa más de neuronas, se pueden combinar varias rectas.
Ese botón que acabas de pulsar es el botón que al mundo le costó veinte años pulsar.
Volvemos a 2.2
Al final de 2.2 dejamos una pregunta pendiente.
Los números de dentro del filtro, ¿quién los decide?
Ya podemos responder. No los decide nadie. Los decide el aprendizaje.
Los nueve números de dentro del filtro también son pesos. Al principio hay números cualesquiera y, cada vez que falla, se corrigen un poco. Y así, un filtro acaba encontrando líneas verticales y otro líneas horizontales. Sin que nadie se lo haya dicho.
A una red neuronal hecha apilando así varias capas de filtros la llamamos . Eso que abrimos capa por capa en 2.2 es esto.
| Lo que vimos en 2.2 | Cómo se llama ahora |
|---|---|
| La ventanita (el filtro) | Nueve pesos |
| Al apilar capas: líneas → dibujos → bultos | CNN |
| Que el filtro de la capa 1 encontrara líneas | Algo que hizo el aprendizaje |
Entonces basta con meter muchas capas
Al añadir una capa se resolvió. ¿Entonces, metiendo muchísimas capas y neuronas, se resuelve todo?
Pues no. En el próximo capítulo vemos qué pasa cuando hay demasiados pesos.
Lo que sostiene este capítulo
- 8 "New Navy Device Learns By Doing", The New York Times (1958-07-08)
- 13 Minsky & Papert, Perceptrons (MIT Press, 1969)
- 29 Rumelhart, Hinton & Williams, "Learning representations by back-propagating errors", Nature 323 (1986)