Lo falso que parece verdadero

Ya hemos visto que hace dibujos y que hace canciones.

Y entonces se te ocurre esto: ¿no se habrá vuelto fácil también lo falso?

Sí. Pero antes hay que comprobar una cosa.

Lo falso no ha aparecido ahora

Existe desde que se extendió la fotografía.

Basta con dejar que la luz entre dos veces en el negativo, o dar luz a dos negativos superpuestos al pasar la foto al papel. Así se hacían las fotos en las que parecía salir un fantasma.

Pero cada foto llevaba horas, y días si se quería hacer bien. Hacía falta un cuarto oscuro y alguien con mucho oficio.

Lo que cambió es el precio

Al pulsar Superponer puso unos milisegundos (un milisegundo es la milésima parte de un segundo), o ni siquiera uno.

Lo que llevaba horas pasó a durar un parpadeo.

¿Y se puede reconocer?

Vamos a probar.

Son los dibujos que conocimos en 5.1. Elige si cada uno es un dibujo que la máquina aprendió o un dibujo que la máquina hizo.

Los dibujos eran los mismos. Solo cambió el tamaño

En la primera ronda no acertaste mucho. En la segunda mejoraste.

Eran dibujos de la misma clase. Lo único que cambió fue el tamaño.

Al verlos grandes se ven los bordes. Lo que hace la máquina queda un poco blandurrio y los colores se corren.

Si son pequeños, eso no se ve. El tamaño borró la pista.

Y las fotos que vemos a diario, ¿son grandes o pequeñas?

Las fotos que vemos pasando la pantalla suelen ser pequeñas.

Abrirlas en grande es raro.

Pero aquí hay un problema mayor

Nuestra máquina es de solo 32 casillas por 32. Por eso, en grande, se nota.

Las IA que dibujan de verdad no se notan ni en grande.

Hace unos años sí se notaban: seis dedos, letras emborronadas. Se extendió mucho la idea de cazarlas con esas pistas.

Pero esas pistas han ido desapareciendo una a una. Y van a seguir desapareciendo.

Que algo parezca raro no significa que sea falso

En el ejercicio había algún dibujo que parecía raro y que no lo había hecho la máquina.

Si solo aprendes a sospechar, acabas por no creerte tampoco lo verdadero. Y eso también es un problema.

Cazar todo lo falso no es el objetivo.

Entonces, ¿qué hay que mirar?

Si no vale con los ojos, hay que mirar algo que no sean los ojos.

• Quién lo subió — dónde apareció por primera vez

• De dónde viene — si existe la foto original

• Si está en más sitios — si en varios lugares dicen lo mismo

• Si lleva una marca de dónde se hizo — están apareciendo formas de marcar las imágenes hechas con IA

Es lo mismo que la costumbre de comprobar que aprendimos en 4.4. Allí era texto y aquí son fotos.

Hasta aquí la IA que crea

Hemos visto dibujos, música y también lo falso que parece verdadero.

En la próxima parte empezamos por lo que la IA no sabe hacer.