Un Toyota Yaris burla la vigilancia mediante inteligencia artificial

La innovadora propuesta de Bill Swearingen desafia los algoritmos de reconocimiento

Un Toyota Yaris del ano 2009 ha logrado protagonizar un experimento sorprendente al circular frente a una camara de vigilancia sin ser detectado correctamente por su sistema de software. Este suceso, que tuvo lugar durante la reconocida conferencia de ciberseguridad DEF CON en Las Vegas, pone de manifiesto la fragilidad de los algoritmos de vision artificial frente a patrones visuales disenados especificamente para el engaño. El responsable detras de este proyecto es Bill Swearingen, un experimentado investigador de ciberseguridad y fundador de la firma SIXCYBER. Su iniciativa, bautizada bajo el nombre de noRecognition, se centra en investigar tecnicas avanzadas para obstaculizar que los sistemas automatizados de vigilancia logren identificar con precision personas, vehiculos u otros objetos en el entorno urbano. Para llevar a cabo esta prueba practica, Swearingen establecio una colaboracion con el equipo de Donut Media. Juntos, cubrieron la carroceria de un Toyota Yaris con un patron grafico complejo generado mediante inteligencia artificial y procedieron a conducirlo frente a una camara de seguridad de la marca Flock. Segun detalla el investigador, los resultados confirmaron que el diseno actuaba eficazmente como una interferencia para el software de reconocimiento. Es crucial aclarar que el objetivo no es lograr que el vehiculo desaparezca de la grabacion de video.

  La camara sigue capturando la imagen con total normalidad, pero el motor de analisis encargado de procesar los datos visuales pierde su capacidad para clasificar el objeto como un automovil. De este modo, mientras un observador humano podria distinguir perfectamente el coche en la grabacion, el algoritmo de inteligencia artificial se vuelve incapaz de identificarlo o rastrearlo. El desarrollo de noRecognition ha requerido un esfuerzo constante de aproximadamente un ano, periodo en el cual Swearingen afirma haber ejecutado mas de 31 millones de pruebas. El sistema comenzo empleando algoritmos de deteccion de objetos de codigo abierto, pero ha evolucionado significativamente hacia un modelo de aprendizaje por refuerzo. Este sistema funciona mediante un bucle continuo: la inteligencia artificial genera un patron y lo pone a prueba contra un software de deteccion. Si el sistema logra reconocer el objeto, el modelo ajusta el patron y repite el proceso. Gracias a este aprendizaje iterativo, la herramienta identifica que elementos visuales son los mas eficaces para confundir a los algoritmos. Swearingen asegura que su tecnologia ha logrado superar 11 algoritmos de deteccion de codigo abierto, incluyendo algunos vinculados a las tecnologias que emplean empresas del sector como Flock, Axon y Clearview AI. Esta tecnica se inscribe en el campo del aprendizaje automatico adversarial, que explota las discrepancias fundamentales entre la interpretacion humana de una imagen y la forma en que las maquinas procesan la informacion visual. La filosofia detras de este proyecto no busca el bloqueo fisico de las lentes, sino un ataque directo a la capa de software que interpreta la informacion. Swearingen admite que su preocupacion personal por la proliferacion de camaras en los espacios publicos fue el motor principal de su trabajo, defendiendo el derecho de los ciudadanos a contar con herramientas para evitar el seguimiento automatizado. Actualmente, el proyecto se expande hacia la industria de la moda, con una linea de camisetas y sudaderas que ya buscan financiacion. Por razones de seguridad, Swearingen mantiene bajo reserva los patrones mas efectivos, evitando asi que las corporaciones de vigilancia puedan analizar sus metodos y desarrollar contramedidas rapidas.