Internacional. Un letrero de cartón con un colorido estampado. Todos los investigadores de la Facultad de Ingeniería de Tecnología de KU Leuven necesitaban engañar a una cámara inteligente. Para ser claros: Wiebe Van Ranst, Simen Thys y Toon Goedemé, del grupo de investigación EAVISE, no tienen malas intenciones. Su investigación tiene como objetivo exponer las debilidades de los sistemas de detección inteligentes.

"Los sistemas de detección inteligente se basan en el reconocimiento de patrones", dice el profesor Goedemé, jefe de EAVISE (Ingeniería de visión integrada y artificialmente inteligente) en el campus de De Nayer. “Consisten en una cámara y un software para interpretar las imágenes automáticamente. Si entrena estos sistemas con imágenes de diferentes personas por un tiempo, ellos aprenden a reconocer a las personas y a distinguirlas de los objetos. Aunque diferimos en altura, color de cabello o rostro, el algoritmo nos identifica como seres humanos".

“Esto hace que los sistemas de detección inteligente sean muy adecuados para fines de seguridad. Dan automáticamente una señal tan pronto como las cámaras detectan a un intruso, incluso cuando esa persona trata de esconderse. En el pasado, necesitabas guardias de seguridad para eso, y estarían mirando las pantallas durante horas y horas. Un trabajo tedioso que se está convirtiendo en una cosa del pasado".

- Publicidad -

Millones de parámetros
Sin embargo, los sistemas de detección inteligentes no son infalibles. A veces tienen dificultades para detectar ciertos patrones. Investigadores de todo el mundo están tratando de exponer el talón de Aquiles de los sistemas de detección. Pequeños cambios son suficientes para hacer esto. Gafas falsas hechas de cartón, por ejemplo, son suficientes para confundir un sistema de reconocimiento facial.

El profesor Goedemé y su equipo han llevado las cosas un paso más allá. La estudiante de maestría Simen Thys y el postdoctorado Wiebe Van Ranst lograron engañar a YOLO, uno de los algoritmos más populares para detectar objetos y personas.

Los investigadores levantaron un cartel de cartón de 40 por 40 cm, con una impresión colorida, delante de su cuerpo. Eso fue suficiente para engañar a YOLO: llevar el cartel te hace invisible para el sistema.
Muy notable, según el profesor Goedemé: “En pruebas anteriores, las personas llevaban una camiseta con la imagen de un pájaro. El algoritmo no reconoció a una persona, pero detectó un ave. Nuestro patrón, que fue diseñado utilizando inteligencia artificial, hace que la gente sea invisible. Si lleva el signo, el sistema no lo detecta a usted, ni como un ser humano ni como un objeto. Notable, y no sabemos exactamente por qué este patrón en particular puede engañar a YOLO. Después de todo, los algoritmos basados ​​en redes neuronales utilizan millones de parámetros. Para los investigadores, esto sigue siendo una caja negra ".

Carrera de armamentos
Los investigadores están entusiasmados, pero se apresuran a advertir sobre otras fallas de seguridad.
"¿A dónde ir desde aquí? Eso es fácil: encontramos una debilidad, y ahora necesita ser reparada. En este caso, podría enseñar al algoritmo de YOLO que las personas que sostienen un signo con este patrón particular también son seres humanos. Eso no es difícil de hacer. Sin embargo, es seguro asumir que YOLO también tiene otras debilidades. ¿Podremos alguna vez arreglar todos los fallos de seguridad? No lo creo. Ya lo mencioné: tal algoritmo es una caja negra. Este es el comienzo de una carrera de armamentos".

"No esperábamos este tipo de exageraciones. Pero vemos por qué la aplicación apela a la imaginación. La idea de que puedes hacerte invisible para las cámaras de seguridad usando nada más que un cartel colorido es intrigante".

Video
 

Fuente: KU Leuven.

Author: Duván Chaverra

OTRAS NOTICIAS

article thumbnailInternacional. Aproximadamente dos millones de ataques cibernéticos en 2018 resultaron en más de US$45 mil millones en pérdidas en todo el mundo...
article thumbnailInternacional. Las pruebas de campo se pueden agrupar en tres categorías: pruebas de aceptación, mantenimiento y localización de fallas. Se realiza...
article thumbnailInternacional. El informe “Inteligencia Artificial: Repensando la Evolución Humana” que recoge las últimas tendencias en Inteligencia Artificial (IA)...
article thumbnailInternacional. Trend Micro Incorporated dio a conocer que ha bloqueado 5 millones de intentos de ataques cibernéticos contra cámaras IP en solo...
article thumbnailEstados Unidos. El Servicio Secreto de los EE.UU. construirá una nueva cerca de 13 pies para rodear la Casa Blanca, casi duplicando la altura de la...
article thumbnailInternacional. Johnson Controls lanzó la más reciente versión del software de administración de seguridad EntraPass de Kantech de Tyco, el cual...
article thumbnailInternacional. Panasonic Corporation anunció que el estadio Brondby IF del club de fútbol de la Superliga danesa es el primero en Dinamarca en...
article thumbnailInternacional. Avigilon fue seleccionada para ayudar a proteger la seguridad de Independent Express Cargo Ltd. en Dublín, Irlanda.
article thumbnailMéxico. De acuerdo con el Secretariado Ejecutivo del Sistema Nacional de Seguridad Pública, la violencia en México alcanzó cifras récord en los...
article thumbnailInternacional. Siempre a la vanguardia de la seguridad, SoftGuard, continua en su búsqueda de la satisfacción de las necesidades tecnológicas de sus clientes....