Una camisa que hace invisible a su portador ante cámaras de inteligencia artificial
Innovadora creación de un artista alemán
Simon Weckert, un diseñador y artista de Alemania, investiga la intersección entre la tecnología, el espacio público y la vigilancia digital. Sus trabajos suelen desafiar los sistemas que gobiernan nuestra cotidianidad y ponen en duda cómo las máquinas supervisan, categorizan y afectan el comportamiento humano.
Su más reciente obra busca interferir con las cámaras inteligentes: Weckert ha desarrollado una camisa que utiliza una particular combinación de colores y formas para confundir ciertos sistemas de visión artificial, logrando que los algoritmos no reconozcan al portador como un ser humano. Esta prenda, llamada Digital Camouflage, se originó como una crítica a la proliferación de sistemas de vigilancia en espacios públicos de Berlín.
El objetivo detrás de la camisa
“Quería que existiera una herramienta con la que una persona pudiera posicionarse frente a esas cámaras”, comentó Weckert durante una conversación con TN Tecno sobre su invención. El detonante de su idea fue la instalación de cámaras con análisis de comportamiento en Kottbusser Tor, un área muy transitada de la ciudad donde el uso de tecnología para analizar la conducta de peatones ha ido en aumento.
“El detonante fue que Berlín activó su primer escáner de comportamiento con inteligencia artificial, un software que clasifica las conductas de los transeúntes en categorías de ‘normal’ y ‘sospechoso’”, detalló el artista, enfatizando que no buscaba ocultar físicamente a las personas, ya que la camisa sigue siendo visible para el ojo humano. El truco solo opera frente a los algoritmos diseñados para identificar personas.
Mecanismo de acción de Digital Camouflage
La camisa Digital Camouflage incorpora una técnica conocida como ataque adversarial. Esta técnica consiste en realizar modificaciones en la apariencia de un objeto para inducir errores en la interpretación de un modelo de inteligencia artificial. En este caso, el “ataque” está impreso directamente sobre la tela.
- Los algoritmos de visión artificial aprenden a identificar rostros tras analizar numerosos patrones en un gran volumen de imágenes.
- Weckert modificó conscientemente esas referencias usadas por los sistemas, argumentando que “los algoritmos de detección no comprenden lo que es un ser humano, simplemente han aprendido cómo lucen de manera estadística a partir de millones de imágenes”.
- Las superposiciones en el diseño de la camisa dificultan que el software relacione elementos clave como cabeza, hombros y piernas de un mismo cuerpo.
El diseño también aplica colores intensos, lo que añade información visual extra que confunde aún más al sistema: “El ojo humano puede detectar fácilmente a una persona con una camisa colorida; sin embargo, para el algoritmo, no ve nada”, resumió.
Limitaciones del diseño
A pesar de su ingenio, Weckert reconoce que un diseño que logre engañar a un modelo de inteligencia artificial no será universalmente efectivo. “Los patrones adversariales son específicos de cada modelo y su capacidad para trasladarse a otros sistemas es limitada”, explicó al valorar su experimento.
Las pruebas realizadas se llevaron a cabo con un detector de código abierto genérico y no garantiza su efectividad contra sistemas de vigilancia más complejos.
Reflexiones sobre la vigilancia y la intervención
La obra de Weckert plantea preguntas profundas sobre la vigilancia. En el contexto actual, las cámaras con capacidades de análisis de comportamientos transforman la forma en que las personas actúan en público. “Los espacios vigilados alteran nuestras conductas. Una plaza donde hay vigilancia modifica nuestra forma de caminar, reunirnos y comunicarnos. La libertad se ve comprometida, incluso sin llevar a cabo arrestos”, comentó el artista.
Weckert también advierte que la presencia constante de sistemas automatizados puede influir en la reacción de quienes son testigos de un evento inusual. “Cuando hay un sistema oficial mirando, tomar acción parece ser una responsabilidad externa: como si la cámara fuera a hacerse cargo”, reflexionó. “Sin embargo, una cámara solo graba, no actúa”.
Cuestiones sobre privacidad y reconocimiento facial
El uso de estos sistemas plantea notables preocupaciones sobre privacidad. Según el abogado David Regairaz, el uso de datos biométricos para identificar a individuos en espacios públicos a distancia implica una vulneración de los derechos personales. “La identificación a través de reconocimiento facial, sin la debida justificación, debe ser cuestionada”, subrayó Regairaz, señalando que regulaciones en algunas jurisdicciones establecen restricciones claras sobre su uso.
El debate se ha ampliado a temas de consentimiento y control, sugiriendo que, en principio, las autoridades deberían dispensar a los ciudadanos de ser sometidos a procesos de identificación biométrica sin su consentimiento explícito. “No deberían existir imágenes de personas no sospechosas obtenidas por este tipo de tecnología en espacios públicos y, si aparecen, deben ser destruidas”, concluyó Regairaz.
Conclusiones sobre la privacidad individual
La camisa Digital Camouflage evoca preguntas sobre la legalidad de utilizar prendas para protegerse de la identificación biométrica. Regairaz sostiene que los individuos tienen derecho a proteger su privacidad mediante el uso de ropa que frene su identificación. Al concluir, lamentó que los gobiernos poseen herramientas tradicionales de seguridad que no requieren someter a los ciudadanos a identificación biométrica constante.
En última instancia, Digital Camouflage invita a una reflexión más amplia sobre el papel de la inteligencia artificial en la vida urbana, así como el necesario equilibrio entre privacidad, anonimato y libertad en un entorno cada vez más vigilado.
