Diseñan una camisa que confunde a la IA y hace 'invisible' a las personas que la llevan ante las cámaras de vigilancia
El diseñador alemán Simon Weckert ha desarrollado una prenda que vuelve a las personas 'invisibles' cuando pasan por delante de sistemas de reconocimientos de imagen automáticos
Los perfiles más demandados relacionados con la IA, según una experta en RRHH: "Hay cinco grandes categorías"
Llega el "camuflaje anti IA" y lo hace "usando la propia IA para romper el sistema". Así ha hablado el diseñador Simon Weckert, en una entrevista originalmente publicada en el medio 'Dezzen', de su llamativo nuevo proyecto: una camiseta que nos hace 'indetectables' frente a las cámaras con el objetivo de poner a prueba los algoritmos.
Esta pieza nació como parte de un proyecto para analizar el uso de inteligencia artificial, IA, en la videovigilancia. Del mismo modo que ChatGPT escribe texto en base a la probabilidad de las palabras y del contexto que le damos, los sistemas de detección por imagen funcionan con el mismo principio estadístico. En base a esta premisa, Weckert explicó que los "sistemas de IA están formados por múltiples capas y nunca aprendieron qué es un ser humano. Aprendieron cómo lucen estadísticamente los humanos en millones de imágenes de entrenamiento". De ahí, la razón del diseño llamativo de la camiseta: está hecho a propósito para romper el patrón que usan los algoritmos para reconocer.
Se usó IA para combatir a la IA
El proceso de creación y diseño se llevó a cabo preguntando a la IA si era capaz de detectar a una persona como lo que era: una persona. La vestimenta que se ponía delante del sistema de detección era clave para analizar la respuesta que el programa de detección arrojaba.
"El diseño de la camisa se desarrolló en un bucle adversarial con el propio sistema de detección: generar un candidato, mostrárselo al detector, medir con qué grado de fiabilidad sigue encontrando a la persona, ajustar, repetir, hasta que esa misma fiabilidad se derrumba", explica Weckert de su proyecto.
Se conoce como "bucle adversarial" al proceso de prueba y error, que enfrenta un diseño humano a un algoritmo de IA con el fin de encontrar los puntos débiles, a propósito. El diseño que se ha dado a conocer al público es el que salió como resultado del colapso del modelo. No obstante, aunque el aspecto es peculiar, está medido para que la máquina falle.
Los colores y formas de la camisa, las claves
¿Por qué este estampado evita que seamos 'capturados' visualmente por las cámaras de videovigilancia? La clave está en la rotura del patrón de la figura humana cuando se llega a la 'lectura' de la camisa. Explicó el creador que la distribución de formas y tonalidades estaba hecha a posta para ser "optimizada contra la máquina".
"Las formas superpuestas rompen la continuidad del contorno del cuerpo, de modo que el detector de IA ya no puede unir la figura de la silueta de la cabeza con la figura de la silueta del cuerpo". Dicho de otro modo: la máquina no reconoce cabeza y torso como dos piezas del mismo puzzle. Y la conclusión es que "el modelo de IA lo lee como nada en absoluto", enfatiza.
"Los puntos ciegos de una máquina no son intuitivos para los humanos; no se puede diseñar contra la percepción de una máquina a simple vista; sólo la máquina puede decirte qué es lo que no logra ver. Hay una simetría poética en esto: la misma clase de IA que vigila la plaza también le enseñó a la camiseta a esconderse", concluye el autor.