Internacional. IBM usó en secreto las imágenes de las cámaras CCTV de NYPD para desarrollar una tecnología de vigilancia que pudiera buscar a las personas según las características corporales, como la edad y el tono de la piel. Esto es según un informe de The Intercept que cita documentos confidenciales de la compañía, así como entrevistas con antiguos investigadores de IBM y funcionarios del NYPD.
Aunque IBM anuncia la capacidad de su software de análisis de video para buscar personas que usan rasgos como edad y origen étnico, la compañía no ha revelado previamente su uso de imágenes de vigilancia de Nueva York para desarrollar esta tecnología. La medida en que IBM trabajó con el NYPD, y el secreto con el que lo hizo, es un ejemplo preocupante de compañías de tecnología que se asocian con los gobiernos para construir sistemas de vigilancia sin supervisión pública.
La capacidad de la nueva tecnología, como la inteligencia artificial para potenciar la vigilancia, ha preocupado a los defensores de la privacidad durante años. No solo sabemos que dichos sistemas pueden tener un sesgo racial (lo que significa que son propensos a cometer más errores al identificar individuos con colores de piel específicos), pero no existe una legislación clara para regular su uso .
Según la historia de The Intercept, el NYPD adquirió el software de análisis de video de IBM a través de la subsidiaria Vexcel en 2007. La tecnología comenzó a probarse en el centro de comando de contraterrorismo de Nueva York, que es parte de la Iniciativa de Seguridad del Bajo Manhattan, en marzo de 2010. El portavoz de NYPD, Peter Donald, le dijo a The Intercept que el software se estaba ejecutando en "menos de cincuenta" de las 512 cámaras del centro en ese momento.
Para 2012, según los informes, IBM estaba "probando el software de análisis de video en los cuerpos y rostros de los neoyorquinos, capturando y archivando sus datos físicos mientras caminaban en público". La compañía luego utilizó estas imágenes para mejorar su funcionalidad de búsqueda, permitiendo a los operadores construir funciones para encontrar personas en función de la edad, el sexo, el color del cabello, el vello facial y el tono de la piel.
El NYPD dice que nunca usó estas características, esperando evitar la "sugerencia de aparición de cualquier tipo de perfil racial tecnológico". Un portavoz dijo a The Intercept: "Mientras que las herramientas que presentaban capacidades de búsqueda racial o de tono de piel se ofrecían al NYPD, fueron rechazados explícitamente por el NYPD ".
Sin embargo, el ex investigador de IBM Rick Kjeldsen, quien dijo que trabajó en el proyecto NYPD entre 2009 y 2013, afirma que esto es engañoso. "No hubiéramos explorado [la funcionalidad de búsqueda] si el NYPD nos hubiera dicho 'no queremos hacer eso'", dijo Kjeldsen a The Intercept . "Ninguna compañía va a gastar dinero donde no haya interés del cliente".
Kjeldsen dice que varios investigadores de IBM involucrados en el proyecto estaban preocupados por el potencial uso indebido de la tecnología. Agrega que una de sus principales objeciones fue la falta de divulgación pública acerca de cómo se podrían implementar estas herramientas potencialmente invasivas. "Ahí es donde necesitamos la conversación", dijo Kjeldsen. "Eso es exactamente por lo que el conocimiento de esto debería estar más ampliamente disponible, para que podamos resolverlo".
El NYPD dice que dejó de utilizar la tecnología de IBM en 2016. Cuando The Verge se puso en contacto con él , IBM no respondió preguntas específicas, pero dio una declaración diciendo que "sigue absolutamente comprometida con el avance responsable de las nuevas tecnologías".
