Una camisa hawaiana con un diseño muy feo fue creada con un propósito muy específico: evitar que las cámaras de videovigilancia con inteligencia artificial reconozcan al usuario como una persona.
"Los sistemas de IA están compuestos de múltiples capas y nunca aprendieron qué es un ser humano; aprendieron cómo se ven los humanos estadísticamente en millones de imágenes de entrenamiento", explicó Simon Weckert, el creador de la camisa, informa Odditycentral.
"En las primeras capas, se centran en los bordes, los contrastes y los gradientes de textura; en las capas más profundas de la red, en patrones que se asemejan a partes del cuerpo: la silueta de la cabeza y los hombros, las proporciones de las extremidades con respecto al torso, la continuidad del contorno del cuerpo sobre el fondo. Para la máquina, una "persona" es un conjunto de estadísticas visuales, y esa es precisamente su debilidad".
El secreto es el "bucle adverso"
La camisa de camuflaje digital fue diseñada meticulosamente para confundir a los sistemas de IA, dificultando enormemente que reconozcan al usuario como un ser humano. Irónicamente, el patrón se creó mediante IA, a través de un proceso conocido como "bucle adversario", indica Odditycentral.
"El patrón se desarrolló en un bucle antagónico con el propio sistema de detección: generar un candidato, mostrárselo al detector, medir con qué confianza aún encuentra a la persona, ajustar, repetir, hasta que la confianza se desmorona", explicó Weckert a la revista Dezeen.
"Esto era necesario porque los puntos ciegos de una máquina no son intuitivos para los humanos; no se puede diseñar en contra de la percepción de la máquina a simple vista, solo la máquina puede decirte lo que no ve. Hay una simetría poética en ello: la misma clase de IA que vigila el cuadrado también le enseñó a la camisa a esconderse", dice Odditycentral.
Para los sistemas de IA el que la lleva no es registrado como una persona (Simon Weckert).
Aunque el estampado colorido, casi hipnótico, de la camisa de camuflaje digital hace que quien la lleva destaque entre los demás humanos, para los sistemas de IA probados por Weckert, no se registra como nada en absoluto, y mucho menos como una persona.
GML
Todavia no hay comentarios aprobados.