Internacional. A la expectativa se encuentra la industria de la seguridad electrónica ante el avance en la Eurocámara de un trámite legislativo que impondría restricciones al uso de tecnologías como el reconocimiento facial y la Inteligencia Artificial en suelo europeo.
Concretamente, la nueva norma busca limitar ciertas aplicaciones de la Inteligencia Artificial, como los sistemas de categorización biométrica basados en algunas características sensibles de las personas y la captura de imágenes faciales de internet o de grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.
También se regulan el reconocimiento de emociones de las personas en su lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que condicione el comportamiento humano o ciertas características vulnerables de las personas.
Exenciones
El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda limitado a priori, salvo en situaciones concretas. Los sistemas de identificación biométrica “en tiempo real” solo se podrán emplear si se cumplen una serie de salvaguardias estrictas; por ejemplo, si su uso se limita a un período y lugar específicos y se cuenta con una autorización judicial o administrativa.
Entre estas excepciones figuran la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. Sin embargo, la Eurocámara dejó claro que recurrir a estos sistemas a posteriori se considera un uso de alto riesgo que requiere autorización judicial al ser vinculado a un delito penal.
Obligaciones
También se prevén obligaciones para sistemas de IA con usos considerados por la nueva Ley como de alto riesgo. El Parlamento señaló que esto incluye determinados usos relacionados con las infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales (por ejemplo, la sanidad o la banca), determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos.
Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana. La ciudadanía tendrá derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos.
Requisitos
En cumplimiento de la nueva Ley de Inteligencia Artificial, los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos.
Los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como evaluar los modelos, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes. Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados denominados como “ultrafalsificaciones” deberán etiquetarse claramente como tales.
Innovación
La Eurocámara plantea en la norma la necesidad de poner a disposición de las pymes y de las empresas emergentes espacios de pruebas y ensayos en condiciones reales para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.
Reacciones
Al respecto, el coponente de la comisión de Mercado Interior, Brando Benifei, (S&D, Italia) dijo: “Finalmente tenemos la primera ley vinculante del mundo sobre Inteligencia Artificial, para reducir riesgos, crear oportunidades, combatir la discriminación y aportar transparencia. Gracias al Parlamento, se prohibirán en Europa prácticas inaceptables de IA y se protegerán los derechos de los trabajadores y los ciudadanos. La nueva Oficina de IA ayudará a las empresas a respetar las normas antes de que entren en vigor”.
A su vez, el coponente de la comisión de Libertades Civiles, Dragos Tudorache, (Renew, Rumanía) agregó: “La IA nos empujará a repensar
el contrato social en el corazón de nuestras democracias, nuestros modelos educativos, los mercados laborales y la forma en que llevamos a cabo la guerra. La Ley de IA es un punto de partida para un nuevo modelo de gobernanza construido en torno a la tecnología”.
Antecedentes
La nueva normativa había sido acordada con los estados miembros en diciembre de 2023 y esta semana fue respaldada por la Eurocámara con 523 votos a favor, 46 en contra y 49 abstenciones.
De acuerdo con el organismo el objetivo de esta iniciativa “es proteger los derechos fundamentales, la democracia, el estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector”.
Próximos pasos
La Ley de Inteligencia Artificial aún está sujeta a una última comprobación jurídica-lingüística. Su aprobación definitiva (mediante el llamado procedimiento de corrección de errores) está prevista para antes del final de la presente legislatura. La ley también debe ser adoptada formalmente por el Consejo.
Una vez lo anterior ocurra, la Ley entrará en vigor 20 días después de su publicación en el Diario Oficial y será de plena aplicación veinticuatro meses después de su entrada en vigor, con excepción de: las prohibiciones de prácticas (se aplicarán seis meses después de la fecha de entrada en vigor); los códigos de buenas prácticas (nueve meses después); las normas sobre la IA de uso general, incluida la gobernanza (12 meses después), y las obligaciones para los sistemas de alto riesgo 36 meses después).
