La legislación sobre IA introducida por la Unión Europea representa un paso significativo hacia la solución de los desafíos éticos, sociales y económicos planteados por la IA.
Por Gigi Agassini*
En la primera parte de esta columna, presentada en la edición anterior (28-2) analizamos a profundidad el nacimiento de la Inteligencia Artificial (IA) y cómo presenta a la humanidad tanto oportunidades sin precedentes como riesgos profundos. Además, revisamos algunos aspectos sobre la “Ley de Inteligencia Artificial”, elaborada por el Parlamento de la Unión Europea con el fin de regular esta tecnología y que se presenta como la primera ley integral sobre la materia en el mundo.
Ventajas de la Legislación sobre IA en Europa:
1. Gobernanza Ética: La legislación prioriza consideraciones éticas en el desarrollo y despliegue de la IA, enfatizando la transparencia, la responsabilidad y la equidad. Al establecer pautas claras para la transparencia y la responsabilidad algorítmica, busca mitigar el riesgo de sesgo y discriminación en los sistemas de IA.
2. Protección de Datos y Derechos de Privacidad: La legislación introduce salvaguardias robustas para proteger la privacidad y los derechos de datos de los individuos frente al aumento de la vigilancia y explotación de datos de la IA. Alineándose con regulaciones existentes de protección de datos como el GDPR (General Data Protection Regulation por sus siglas en inglés), busca mantener la sacralidad de la autonomía individual en la era digital.
3. Promoción de la Innovación: Aunque impone restricciones regulatorias, la legislación también fomenta la innovación al proporcionar un marco regulatorio claro y promover la inversión en investigación y desarrollo de IA. Al posicionar a Europa como líder en innovación responsable en IA, busca mejorar la competitividad en el panorama global de la IA.
4. Liderazgo Global: La legislación refuerza el compromiso de Europa con la gobernanza ética de la IA, posicionando a la UE como líder global en la conformación del futuro de la IA. Al abogar por el desarrollo de IA centrado en el ser humano, establece un precedente para que otras regiones sigan, fomentando la colaboración internacional y la cooperación en el abordaje de los desafíos de la IA.
La Comisión propone un planteamiento basado en el riesgo, por lo que la ley contempla cuatro niveles de riesgo de los sistemas de IA, así como una identificación de los riesgos específicos de los modelos de uso general:
1. Riesgo mínimo: Todos los demás sistemas de inteligencia artificial pueden desarrollarse y utilizarse con arreglo a la legislación vigente, sin obligaciones jurídicas adicionales. La inmensa mayoría de los sistemas de inteligencia artificial utilizados actualmente o que probablemente se van a utilizar en la UE pertenece a esta categoría. De forma voluntaria, los proveedores de estos sistemas pueden optar por aplicar los requisitos de una inteligencia artificial digna de confianza y adherirse a códigos de conducta facultativos.
2. Alto riesgo: Se considera de alto riesgo un número limitado de sistemas de inteligencia artificial definidos en la propuesta y que tienen un impacto potencial negativo en la seguridad de las personas o en sus derechos fundamentales, tal y como están protegidos por la Carta de los Derechos Fundamentales de la UE.
Siempre se considerarán de alto riesgo cuando estén sujetos a una evaluación de la conformidad por terceros con arreglo a esa legislación sectorial.
3. Riesgo inadmisible: Se trata de un conjunto muy limitado de usos especialmente nocivos de la inteligencia artificial que se oponen a los valores de la UE porque vulneran los derechos fundamentales y, en consecuencia, quedarán prohibidos:
* Puntuación social con fines públicos y privados;
* Aprovechamiento de los puntos vulnerables de las personas, uso de técnicas subliminales;
* Identificación biométrica remota, en tiempo real, en lugares de acceso público por parte de las fuerzas y cuerpos de seguridad, con excepciones limitadas;
* Categorización biométrica de las personas físicas basada en datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, u orientación sexual; seguirá siendo posible filtrar conjuntos de datos basados en datos biométricos en el ámbito policial;
* Actuación policial predictiva individual;
* Reconocimiento de emociones en el lugar de trabajo y en las instituciones educativas, a menos que sea por razones médicas o de seguridad (por ejemplo, control del grado de cansancio de un piloto);
* Extracción no selectiva de internet o circuito cerrado de televisión para imágenes faciales con el fin de crear o ampliar bases de datos.
4. Riesgo específico para la transparencia: En el caso de determinados sistemas de inteligencia artificial se imponen obligaciones específicas de transparencia, por ejemplo, cuando exista un riesgo claro de manipulación (por ejemplo, mediante el uso de robots conversacionales). Los usuarios deben ser conscientes de que están interactuando con una máquina.
La ley de IA considera también los riesgos sistémicos que podrían derivarse de los modelos de inteligencia artificial de uso general, incluidos en grandes modelos generativos de inteligencia artificial. Algunos de estos modelos podrían entrenar riesgos sistémicos si tienen gran capacidad o son objeto de un uso generalizados. (fuente: Comisión Europea).
Si tú eres proveedor de sistemas de IA de alto riesgo, antes de comercializar tu producto en la UE deberás someterlo a una evaluación de conformidad para demostrar que el sistema cumple con los requisitos obligatorios como son calidad de datos, documentación y trazabilidad, transparencia, supervisión humana, exactitud, ciberseguridad y solidez. Si modificas el producto, deberás volverlo a presentar a otra evaluación.
Adicional a lo anterior los proveedores de estos sistemas tendrán que aplicar sistemas de gestión de la calidad y riesgos para garantizar su conformidad con los nuevos requisitos y reducir al máximo los riesgos para los usuarios y las personas afectadas, incluso después de que los productos se hayan comercializado.
Algunos ejemplos de casos de uso de alto riesgo pueden ser:
• Determinadas infraestructuras críticas, como carreteras, suministro de agua, gas, electricidad;
• La educación y formación profesional, como el evaluar los resultados de la enseñanza, dirigir el proceso de aprendizaje;
• El empleo/la gestión del personal laboral, como la filtración de solicitudes de candidatos para su selección y evaluación;
• Evaluación de solvencia de personas físicas;
• Algunos sistemas usados para control de fronteras y policiales;
• Evaluación y clasificación de llamadas de emergencia, entre otros.
Dentro de la misma ley hay apartados que refieren a como regularán los modelos de inteligencia artificial de uso general, señala también el umbral para los sistemas de uso general con riesgos sistemáticos. Explica cómo es que regula la identificación biométrica y porque son necesarias las normas para la identificación biométrica remota.
Habla también sobre como protegen las normas de derechos fundamentales. Hace frente a los sesgos raciales y de género en la IA. Refiere cuándo será plenamente aplicable la ley, así también el cómo se hará cumplir la misma.
Algo muy interesante a mencionar es que toda esta propuesta de legislación, la generación de la ley es claro que no puede ser manejado de la misma manera, por lo que la UE ha creado el “Comité Europeo de Inteligencia Artificial” su función consistirá en facilitar una aplicación fluida, eficaz y armonizada del nuevo reglamento sobre la IA.
Además, formulará recomendaciones y dictámenes a la Comisión Europea sobre los sistemas de IA de alto riesgo y sobre cualquier aspecto relacionado con la aplicación uniforme de las nuevas normas, para esto cada estado miembro deberá designar una autoridad nacional de supervisión, que también representará al país en el Comité.
Adicional, la Comisión creara una nueva “Oficina Europea de Inteligencia Artificial” que supervisara los modelos de inteligencia artificial de uso general, cooperara con el Comité Europeo de IA y contara con el apoyo de una Comisión Científica de expertos independientes.
Evidentemente no pueden faltar las sanciones por incumplimiento que van desde 7.5 a 35 millones de euros, según sea la infracción. La ley prevé el derecho a presentar una denuncia a una autoridad nacional e indica que deben hacer las personas afectadas por la vulneración de una norma.
En definitiva, es una ley que evidentemente tendrá una considerable carga regulatoria y como todas las legislaciones no puede dejar de ser en algunos puntos ambigua o demasiado compleja, y por supuesto genera preocupaciones para aquellos que se dedican al desarrollo de estas tecnologías; existen preocupaciones de que los requisitos regulatorios rigurosos puedan obstaculizar la investigación y desarrollo de IA al imponer limitaciones en el acceso a datos y experimentación.
En conclusión, la legislación sobre IA introducida por la Unión Europea representa un paso significativo hacia la solución de los desafíos éticos, sociales y económicos planteados por la IA. Si bien ofrece numerosos beneficios en términos de gobernanza ética, protección de datos y promoción de la innovación, también enfrenta desafíos relacionados con la carga regulatoria, la ambigüedad y la competitividad global.
Equilibrar estas consideraciones será crucial para dar forma a un marco regulatorio que maximice los beneficios de la IA al tiempo que mitiga sus riesgos.
Es importante mirar lo que otros países están haciendo y educarnos bien sobre lo que está pasando en nuestro entorno, sobre todo si trabajamos en una compañía global o que tiene planes de expansión, no podemos solo esperar a que la legislación llegue a nuestra puerta, tomar acciones anticipadas como la generación de políticas y procesos bien establecidos, es el primer paso para establecer límites y usos.
La capacitación constante para hablar de lo nuevo y los riesgos que conlleva es muy importante, sobre todo si estas usando este tipo de tecnologías y si aún no las usas, te invito a que las explores y las implementes como herramienta poderosa en tu trabajo, solo no olvides los sesgos que esta tiene y los riesgos que representa.
¡Hasta la próxima!
*Gigi Agassini, CPP
Consultora Internacional de Seguridad
GA Advisory
[email protected]
