En apenas unas horas leyendo las noticias de la mañana me ha asaltado la duda: somos supuestamente la sociedad de seres humanos más avanzada hasta la fecha y, sin embargo, al terminar de leer me entraron ganas de salir desnudo con un palo, no sé si a disfrutar lo que me queda de libertad, o a terminar con mi aparente agonía. En realidad, la lectura me dejó la sensación de que somos la sociedad más cafre que jamás haya habitado la Tierra, y gran parte de esa culpa la tiene el lugar que ocupan los algoritmos para casi todo.
Por supuesto, los algoritmos no son los culpables, pero sí son la herramienta perfecta para que terminemos como los pingüinos que se ven abocados a tirarse por el acantilado.
En ese caso, los emperadores lo hacen motivados por el hambre y el deshielo marino, como si estuvieran pensando realmente que existe la posibilidad de sobrevivir a semejante salto. Así, cuando el primero lo hace y se lanza, le sigue en manada el resto del grupo.
Algo de eso nos está pasando ahora a los humanos, aunque a diferencia de los pingüinos, nuestros problemas, además de medioambientales, son de otro tipo.
La primera noticia me llevó hasta un escenario donde se le preguntaba a una Miss cuál sería su sueño para hacer del mundo un lugar mejor. Estoy hablando de un concurso de belleza que tendrá lugar este año con un premio de 5.000 dólares. En el certamen, se juzgará a las concursantes por su belleza y la habilidad, así como su influencia en las redes sociales como influencers.
Pero también, y muy importante, se valorará la habilidad y la implementación de las herramientas de IA utilizadas para crearlas.
Sí, ya está en marcha el primer concurso de Miss IA del mundo lanzado por los World AI Creator Awards (WAICA), un programa global de premios dedicado a reconocer los logros de los creadores de IA de todo el mundo. La distopía no termina aquí, porque estas mujeres generadas por IA serán luego clasificadas por un panel de expertos de cuatro jueces que incluye a, atención, dos de las personas más influyentes del mundo… generadas por IA: Emily Pellegrini y Aitana López.
El escenario de la siguiente noticia me lleva a la isla de Jeffrey Epstein. Decenas de cuentas de influencers contaban en redes sociales como TikTok que Walt Disney había comprado la isla maldita. La noticia partía de una cuenta llamada Mouse Trap News, desde donde se citaba que Disney haría de la isla de Epstein “una parada en sus cruceros”. El vídeo también afirma que la famosa compañía compró la isla por 3.000 millones de dólares y que construirá un parque temático allí.
La noticia se hizo tremendamente viral y se reprodujo sin tiempo ni siquiera para que alguien con dos dedos de frente desmintiera un escenario tan absurdo como surrealista. En este caso, el influencer adquiere un poder efímero pero capaz de convertir el mayor bulo que podamos imaginar en una noticia real que llega a cientos de miles de personas.
Ocurre que los algoritmos no miden la veracidad, miden la viralidad. En un sistema donde priman los clics, cuanto más extravagante sea la noticia, más viral y “exitoso” se vuelve el mensaje.
La siguiente de las noticias es la consecuencia desastrosa de todo ello. Hace menos de 48 horas, esos algoritmos que priman la viralidad por encima de cualquier otra característica, en este caso a través de la imagen, llevaron a la muerte de una influencer. Inessa Polenko, una “creadora de contenido”, llevó su trabajo al límite, posiblemente buscando arañar el mayor número de likes. Lo hizo accediendo a una zona peligrosa de un mirador, cruzando una barrera de seguridad para hacerse una fotografía, un selfie. La chica cayó desde una altura de 50 metros.
Como Polenko, estas muertes buscando la viralidad del algoritmo no han parado de repetirse en los últimos años. De hecho, en 2021 se publicó el primer estudio ante este fenómeno que no ha cesado. El resultado: más de 370 personas habían muerto por selfies en los últimos 13 años.
La última noticia me llevó a la propia Netflix, quién parece que también se ha excedido en el uso de los algoritmos. En este caso, la compañía ha manipulado imágenes a través de IA en su nuevo documental What Jennifer Did.
El documental gira en torno a Jennifer Pan, quien fue condenada por un ataque a sueldo contra sus padres. Aproximadamente a los 28 minutos del mismo, Nam Nguyen, amigo de la escuela secundaria de Pan, la describe como una persona “animada, feliz, segura y muy genuina“. Sus palabras van acompañadas de una serie de fotografías relevantes.
¿Qué ocurre? Que tras una inspección más cercana de las imágenes, hay claras señales de manipulación. Una imagen en particular muestra a Pan haciendo el signo de la paz con ambos brazos. Parece descaradamente manipulada y ofrece evidencia de que al menos parte de la misma fue generada por IA.
No es la única foto en el programa, y da que pensar hacia dónde se dirigen los programas de televisión si comienzan a manipular historias reales como esta, donde debería primar la verdad sin artificios ni adornos. Como cuentan en un artículo de Futurism sobre el tema, “recurrir a la tecnología para generar fotografías de una persona real, especialmente de alguien que todavía está en prisión y solo será elegible para la libertad condicional alrededor de 2040, debería hacer saltar algunas alarmas“.
Todo estas noticias merecen una reflexión. Son historias que están pasando hoy, donde el algoritmo está más presente que nunca, a veces casi sin darnos cuenta, pero siempre influyendo en gran medida sobre las acciones de las personas.
Quizás, como decía recientemente el cineasta sueco Ruben Östlund (director de obras satíricas muy recomendables como The Square o Triangle of Sadness), deberíamos reflexionar como sociedad sobre lo que tenemos en nuestra manos. Östlund habló en The Guardian con motivo de un documental que produce, Fantastic Machine, y que analiza a las propias cámaras y la forma en que la gente las ha utilizado desde sus comienzos. La película también considera las posibles consecuencias sociales de la proliferación de las mismas.
En un momento de la entrevista dice lo siguiente:
Tengo una idea. ¿Qué pasaría si solo te permitieran usar una cámara si tienes una licencia? Se necesita uno para un arma, al menos en los países sofisticados. La cámara también es una herramienta poderosa. Hay que luchar mucho para que la gente se dé cuenta del tipo de efecto que tienen las imágenes que consumimos.
Es algo impensable, por supuesto, pero sí da que pensar. Como afirma el director, los malditos algoritmos parece avanzar más rápidos que los problemas medioambientales, y eso debería darnos miedo, “empujándonos a madrigueras donde no tenemos contacto con otras personas o ideas. Cuando se trata de algoritmos, sólo somos consumidores, no ciudadanos. Creo que eso debe cambiarse”, zanja el director.
No le falta razón. De otro modo, esa madriguera donde todavía nos hablamos, aunque sea a través de la pantalla, pronto la reemplazará también el algoritmo. Como decía esta semana un director ejecutivo de una gran tecnológica, en breve llegarán las “parejas IA”, novios y novias virtuales bajo demanda. El futuro que imaginó Spike Jonze en su película Her está a las puertas de iniciar un lucrativo negocio al que es muy fácil imaginar con miles de ceros detrás, mientras el humano disfruta “de la comodidad y el confort al final del día”.
Deja un comentario