Cuando la IA aprende mal
Al final de 3.2 preguntamos: metiendo muchísimas capas y pesos, ¿se resuelve todo?
Pues no. Este capítulo va de las dos maneras de aprender mal.
Dos montones de fotos
Abajo hay dos montones de fotos, el A y el B. Elige uno y enséñale a la máquina.
Antes de enseñarle, mira bien las fotos. Ahí está todo este ejercicio.
¿Cuántas acertó? Y ahora mira solo las que falló.
Las que tienen el borde rosa. ¿Qué tienen en común?
Las que tienen el fondo al revés
¿Lo encontraste? Las que falló son todas gatos sobre hierba y perritos sobre nieve.
También hay alguna con el fondo al revés que sí acertó. O sea que no miró solo el fondo: miró el fondo con más peso.
Si vuelves a mirar el montón A, es así.
| Fotos de gato | Fotos de perrito | |
|---|---|---|
| Fondo | Todas en nieve | Todas en hierba |
Así que lo que aprendió la máquina no fue «gato o perrito». Fue fondo blanco o fondo verde.
Porque las dos cosas encajaban igual de bien. Dentro de las fotos que le dimos, estar en la nieve era lo mismo que ser un gato.
Pulsa una foto de examen y después Ver dónde miró la IA. Tapa la foto por zonas y marca en claro los sitios donde la respuesta se tambalea mucho. Lo que se ilumina es el fondo, no el animal.
Arreglarlo no es cosa del código
Ahora enséñale otra vez con el Montón de fotos B.
En el B hay gatos mitad en nieve y mitad en hierba, y con los perritos igual. Con el fondo no se pueden separar. Así que a la máquina no le queda más remedio que mirar al animal.
Si comparas los dos montones sale esto.
| Acertadas de 12 | |
|---|---|
| Montón A | 9 — las falladas son siempre las del fondo al revés |
| Montón B | 12 |
La máquina es la misma y el cálculo también. Lo único que cambió fueron las fotos.
Ya nos lo encontramos en 3.1. ¿Te acuerdas de que al fotografiar siempre en el mismo sitio la máquina aprendió «la cosa que está a la izquierda encima de la mesa»? Es lo mismo.
La segunda manera: memorizar
Hay otra manera de aprender mal. Esta vez no pasa por las fotos, sino cuando hay demasiados pesos.
Cuanto más subes los pesos, más se retuerce la curva entre los puntos rojos. Para acertar todos los ejercicios de práctica.
Pero mira las dos puntuaciones a la vez.
La puntuación de práctica sube
La puntuación del examen en cambio baja
La del examen también sube y baja por el camino. Prueba subiendo de uno en uno y también hasta el tope.
La curva se ha doblado para encajar solo en los ejercicios de práctica, así que cuando llega un problema nuevo está en cualquier otra parte.
A esto lo llamamos .
Memorizar y entender
Al sobreajuste se le suele llamar «la IA lo memorizó». Es cómodo decirlo, pero hay que tener cuidado.
La IA no ha apuntado los problemas en ningún sitio. No existe un cajón donde guarde las respuestas.
Lo que ha pasado es esto: se giraron los pesos para encajar solo en los ejercicios de práctica. Por eso, cuando llega un problema nuevo, los pesos están en cualquier otra parte.
Vuelve a bajar los pesos. La puntuación del examen regresa. Al dejar de memorizar, acierta más.
Hasta aquí las maneras de aprender
Hasta ahora solo había una manera de enseñarle a una IA: mostrarle la respuesta puesta al lado.
Pero ¿cómo se enseña algo cuya respuesta no sabe nadie? Montar en bici, por ejemplo.
En el próximo capítulo le vamos a dar solo premios y castigos en vez de respuestas.
Lo que sostiene este capítulo
- P8 Son 60 fotos reunidas separando los fondos a propósito (Pexels). Las revisamos a ojo una a una
- P8 Con el montón A acierta 9 de 12 y con el montón B las 12. Las tres que falla son siempre fotos con el fondo al revés. El propio ejercicio lo enseña en pantalla