Imagina el comienzo de una realidad paralela donde la sociedad está monitorizada por un Gran Hermano en forma de IA que lo ve todo, hasta el punto de analizar de forma pormenorizada los diferentes grupos sociales que conviven en una ciudad. Lo cierto es que Hollywood se tiene que estar frotando las manos con la distopia que se está generando gracias al avance de la tecnología. Lo último: The Guardian revela que una ciudad de California ya está haciendo precisamente eso: entrenando a una IA para detectar, literalmente, los campamentos de personas sin hogar. Bienvenidos a la intersección de la compasión y la tecnología.

Hablamos de la ciudad de San José, donde al parecer son pioneros en un nuevo enfoque para comprender y abordar la problemática de las personas sin hogar entrenando a la IA para identificar las zonas donde viven. Según le ha contado al medio un funcionario anónimo:

Con los albores de la inteligencia artificial, tenemos la capacidad de redefinir la forma en que abordamos cuestiones sociales complejas. Estas tecnologías pueden mejorar radicalmente nuestra capacidad de responder a las personas sin hogar con eficiencia y empatía.

Es extraño hablar en estos términos porque se trata de un programa piloto que no habíamos visto hasta ahora en el planeta. Lo primero que me viene a la cabeza no es bueno, pero quién soy yo para ponerlo en duda. Según el gobierno local, la IA, a través de machine learning, les ayuda a analizar imágenes satelitales y localizar de manera más precisa y eficiente los campamentos de personas sin hogar.

La idea de fondo: prometen profundizar en nuestra comprensión de las personas sin hogar y, en última instancia, reforzar la respuesta del gobierno local. ¿Cómo? Ni idea, porque no lo cuentan.

The Guardian explica que todo comenzó el pasado mes de julio de 2023 en San José. Entonces el gobierno emitió una invitación abierta a las empresas de tecnología para que montaran cámaras en un vehículo municipal que comenzó a circular cada dos semanas por el distrito 10 de la ciudad unos meses después (diciembre), recopilando imágenes de las calles y espacios públicos.

Hablamos en muchos casos de áreas donde se congregan personas sin hogar, a veces con el apoyo de la ciudad. Por ejemplo, la estación de tren en Santa Teresa Boulevard, la cual alberga el único lugar de estacionamiento seguro designado de la ciudad para vehículos recreativos, que a menudo se utilizan como viviendas.

Dichas imágenes luego se introducen en un software de visión por computadora y se utilizan para entrenar los algoritmos de las empresas para detectar objetos no deseados, según entrevistas y documentos que The Guardian obtuvo a través de solicitudes de registros públicos. 

Algunas de las compañías de tecnología participantes con las que se ha puesto en contacto el medio dicen que incluso han entrenado sus algoritmos para detectar señales indirectas de habitaciones. Según les contó Ken Salsman, director de tecnología de Ash Sensors (compañía participante):

¿Están cubiertas las ventanas dentro del vehículo? ¿Hay toallas para brindar privacidad? ¿Hay basura afuera del vehículo, lo que sugiere que están usando comida y tienen problemas para deshacerse de los desechos? La detección exitosa de vehículos habitados probablemente requeriría escaneos frecuentes de las calles de la ciudad para determinar si los vehículos se han movido.

Por cierto, los documentos de la ciudad revelados afirman que, además de la precisión, una de las principales métricas con las que se evaluarán los sistemas de IA es su capacidad para preservar la privacidad de las personas capturadas por la cámara, por ejemplo, desenfocando rostros y matrículas. Sin embargo, aunque la política de uso de datos para este piloto establece que las imágenes no pueden monitorearse activamente con fines policiales, la policía sí puede solicitar acceso a imágenes previamente almacenadas.

Cuentan que los residentes se han quejado a una línea telefónica de la ciudad sobre campamentos para personas sin hogar “914 veces en lo que va de 2024“, e informaron “vertidos ilegales 6.247 veces, grafitis 5.666 veces y baches 769 veces el año pasado“. Al parecer, uno de los objetivos del piloto de vigilancia es abordar estas quejas de manera más eficiente, tal y como le explicó una de las empresas participantes a The Guardian.

En esencia, tenemos un programa piloto que, aunque en sus bases parece deslizar que no están recopilando información de las personas, sí lo están haciendo de los lugares donde viven (incluso recogiendo las matrículas de los coches donde duermen). Mientras, los trabajadores de servicios sociales de la ciudad, quienes antes de que se revelara el plan no estaban al tanto del experimento, temen que la tecnología se utilice para castigar y expulsar a los residentes sin vivienda de San José.