Internacional. Microsoft quiere que el Congreso regule la tecnología de reconocimiento facial a medida que crece la preocupación de que se pueda usar para invadir la privacidad y monitorear indebidamente a las personas.
Algunos grupos y empleados de libertades civiles pidieron a las compañías tecnológicas que restrinjan el uso del reconocimiento facial, pero el presidente de Microsoft, Brad Smith, escribió en una larga publicación que la "única forma" de administrar y regular la controvertida tecnología es que el gobierno haga eso.
Los empleados de Microsoft, Google y Amazon presionaron a cada una de sus empresas en las últimas semanas para que corten las relaciones con algunas agencias gubernamentales que creen que están violando las libertades civiles.
Algunos trabajadores de Microsoft cuestionaron si la compañía estaba proporcionando su tecnología de reconocimiento facial, Face API, al Servicio de Inmigración y Control de Aduanas (ICE) en medio de la protesta pública sobre la agencia que separa a los niños de sus padres migrantes en la frontera. Eso no está sucediendo, escribió Smith en su blog, haciéndose eco de la afirmación anterior de la compañía de que su contrato con ICE implica el apoyo a los sistemas de correo electrónico y calendario.
La tecnología de reconocimiento facial, habilitada por cámaras omnipresentes y un software de análisis de imágenes cada vez más preciso, ha aumentado rápidamente en la conciencia pública y se ha convertido en una de las principales preocupaciones de privacidad digital. La tecnología ha estimulado la preocupación de que pueda ser utilizada por los gobiernos para monitorear ampliamente a las personas sin su conocimiento o consentimiento.
Muchas personas, incluidos algunos empleados, han pedido a las empresas que desarrollan la tecnología que pongan restricciones a su uso. Pero ese no es el lugar de las compañías tecnológicas, escribió Smith.
"Si bien apreciamos que algunas personas hoy piden a las compañías tecnológicas que tomen estas decisiones, y reconocemos una clara necesidad de nuestro propio ejercicio de responsabilidad, como se analiza más adelante, creemos que esto es un sustituto inadecuado para la toma de decisiones por parte del público y sus representantes en una república democrática ", escribió.
Las empresas tecnológicas han estado inventando nuevos sistemas y servicios más rápido de lo que el gobierno puede anticiparlos y regularlos. Eso a menudo significa que los servicios son bastante maduros y ampliamente adoptados antes de que el gobierno intervenga. Incluso entonces, las compañías tecnológicas a menudo se resisten a los intentos de regular sus productos y servicios.
Algunos creen que la industria necesita aceptar más responsabilidad por sus inventos. Atti Riazi, director de tecnología de la información de las Naciones Unidas, le dijo a Bloomberg esta primavera que las compañías tecnológicas tenían el deber de considerar las consecuencias involuntarias. "No se puede simplemente crear e innovar sin pensar", dijo.
La publicación de Smith abordó algunas cosas que la compañía está haciendo para garantizar que el reconocimiento facial sea preciso y ético, incluyendo "ir más despacio" a medida que se implementa la tecnología.
"Avanzar rápido y romper cosas" se convirtió en algo así como un mantra en Silicon Valley a principios de esta década ", escribió Smith. "Pero si nos movemos demasiado rápido con reconocimiento facial, podemos encontrar que los derechos fundamentales de las personas se están rompiendo".
Microsoft ha rechazado algunas solicitudes de los clientes para el servicio donde descubrió que podría haber "mayores riesgos para los derechos humanos", dijo Smith.
Microsoft también ha establecido un panel de ética interno y externo para inteligencia artificial, y publicó un libro corto con directrices y objetivos para AI a principios de este año.
La tecnología de reconocimiento facial ha sido desarrollada por varias compañías y se usa en aplicaciones cotidianas, como organizadores de fotos en teléfonos, para clasificar las imágenes por personas o para sugerir a quién etiquetar en una publicación de Facebook. También está empezando a ser utilizado por las agencias de aplicación de la ley para atrapar delincuentes y encontrar personas desaparecidas.
Ese uso policial fue criticado a fines de mayo cuando la Unión de Libertades Civiles (ACLU) criticó a Amazon por vender su tecnología, Rekognition, a entidades gubernamentales, diciendo que podría violar las libertades civiles de las personas y ser fácilmente objeto de abuso.
"La gente debería poder caminar por la calle sin ser vigilada por el gobierno", escribió la ACLU en una carta al director general de Amazon, Jeff Bezos.
Las preocupaciones de vigilancia no son infundadas. En China, la tecnología de reconocimiento facial se usa ampliamente para identificar a las personas que han cometido delitos. También se usa para mostrar las caras de los jaywalkers en grandes pantallas exteriores para avergonzarlos.
Barry Friedman, profesor de la Facultad de Derecho de la Universidad de Nueva York, dijo que el uso del reconocimiento facial es exactamente el tipo de herramienta que el gobierno debería regular debido a la naturaleza de la tecnología "controvertida y complicada". Friedman se desempeña como director del Proyecto policial de la escuela, que alienta a los departamentos de policía a ser transparentes y trabajar con las comunidades para formular políticas.
"Esta es una de esas situaciones en las que si no logramos manejarlo, será difícil volver a colocar la pasta de dientes en el tubo", dijo.
Para complicar las preocupaciones, la tecnología está lejos de ser perfecta y puede identificar erróneamente a las personas. Los errores son especialmente severos cuando la tecnología identifica personas de color. Microsoft reconoció este sesgo el mes pasado y dijo que había realizado mejoras en su sistema, pero que todavía tenía mucho camino por recorrer antes de que la tecnología pudiera identificar a las mujeres con piel más oscura con la misma precisión que a los hombres con piel más clara.
Los empleados de las compañías de tecnología han sido los más destacados en lo que respecta a cuestiones políticas y de derechos humanos, como los derechos de los inmigrantes y las personas LGBTQ. Ahora están hablando sobre la tecnología que sus colegas ayudan a desarrollar.
Además de que los empleados de Microsoft pidieron a la empresa que rompiera sus vínculos con ICE, algunos empleados de Amazon pidieron a la compañía el mes pasado que dejara de vender Rekognition a los grupos encargados de hacer cumplir la ley. Los empleados de Google presionaron a la compañía para que pusiera fin a su contrato de inteligencia artificial con el Pentágono, hasta que el gigante tecnológico anunció que no renovaría el trato.
Si el Congreso asume la regulación del reconocimiento facial, es probable que necesite ayuda de la industria tecnológica, dijo Eileen Donahoe, profesora adjunta de la Universidad de Stanford y directora ejecutiva de la Incubadora Global de Políticas Digitales de la universidad, que estudia el impacto de la tecnología en los derechos humanos .
"Las consecuencias de esta tecnología para la democracia social, para las libertades de los ciudadanos son simplemente gigantescas", dijo. "En una democracia, los gobiernos son los representantes de las personas y deben rendir cuentas".
Pero el gobierno federal no ha demostrado una gran comprensión de la tecnología en su conjunto, dijo, y las compañías tecnológicas tendrán que ser parte de la conversación.
Deje su comentario