Primera parte de esta columna que analiza a profundidad el surgimiento de la Inteligencia Artificial (IA) y cómo presenta a la humanidad, tanto oportunidades sin precedentes como riesgos profundos.
Por Gigi Agassini*
Es inevitable escuchar constantemente sobre los beneficios que tiene y trae la IA aplicada a nuestro día a día, sin embargo, a medida que nos encontramos en el umbral de una nueva era es imperativo examinar las implicaciones multifacéticas de la IA con el máximo escrutinio y previsión.
El profesor Yuval Noah Harari, renombrado historiador y filósofo y autor de grandes libros, elucida la compleja interacción entre la tecnología y la sociedad,
instándonos a confrontar la paradoja del progreso. En su estilo característico, el profesor Harari ahonda en el dilema de la IA, destacando los peligros inherentes que acechan bajo el barniz de la innovación, tema del cual no se habla mucho.
Y es que la perspectiva del profesor Harari es muy interesante cuando hace referencia a las eras donde ha existido tecnología disruptiva como lo fue la imprenta, la radio, la televisión e incluso el propio internet, que iniciaron y marcaron generaciones en la revolución industrial.
Cuando estas tecnologías fueron inventadas y mostradas, lo primero que surgió fue miedo, incertidumbre y resistencia en su adopción, algo que sigue ocurriendo aún en la actualidad con la llegada de este tipo de tecnologías. Sin embargo, cuando hablamos de la IA es completamente diferente, ya que esta es capaz de poder tomar decisiones independientes, generar contenido, crear noticias y más, algo que una radio o una imprenta no pueden hacer.
Lo anterior coloca a la IA en una posición completamente distinta ya que es algo que jamás se había visto o vivido como humanidad, pues siempre había sido del dominio humano la generación de ideas y contenido, lo que hoy cambió completamente con la existencia de la IA.
Ahora nos encontramos ante un desafío transformador y peligroso, similar al surgimiento de la energía atómica: la IA es una fuerza tan potente como la energía nuclear, con el potencial de causar un daño grave y un beneficio inimaginable. Por lo que ahora estamos teniendo el “momento Oppenheimer” para los tecnólogos.
La IA, como bien lo señala el profesor Harari, ha “hackeado” el sistema operativo de la civilización humana, las implicaciones son mucho mas profundas, y es que, desafortunadamente la IA tiene el poder de tejer relaciones profundas y llegar incluso a manipular nuestras opiniones creando un velo de ilusión tan conveniente que pudiéramos incluso no darnos cuenta de que está ahí.
El sistema operativo de toda cultura humana en la historia siempre ha sido el lenguaje, a través de su dominio de lenguaje la IA es que podría formar relaciones íntimas con las personas y usar el poder de la intimidad para influir en nuestras opiniones y visión del mundo.
No obstante, es cierto que la IA no ha desarrollado, o al menos no hay indicaciones de ello, consciencia o sentimientos propios, pero lo que sí es capaz de crear es una “falsa” intimidad con los seres humanos, y es que la IA no necesita tener sentimientos propios, sino ser capaz de inspirar sentimientos en los humanos para crear este apego.
En cada batalla política por corazones y mentes, la intimidad es el arma más efectiva de todas y la IA acaba de adquirir la capacidad de producir intimidad con millones, cientos de millones de personas.
Una clara visión de lo anterior son las redes sociales. Durante la última década éstas se han convertido en un campo de batalla para controlar la atención humana, ahora con esta nueva generación de IA, el frente de batalla está cambiando de “atención” a “intimidad” y esto es una muy mala noticia.
¿Qué pasaría con la sociedad humana y con la psicología humana a medida que la IA luche contra la IA en una batalla para crear relaciones íntimas con nosotros? Algo que me parece que estamos viviendo con mayor frecuencia, ya que estos algoritmos tienen influencia en las cosas que vemos, compramos y hasta en las que hacemos.
En su núcleo, la IA representa el pináculo de la ingeniosidad humana, capaz de revolucionar virtualmente todos los aspectos de nuestra existencia. Desde la salud y el transporte hasta las finanzas y el entretenimiento, las aplicaciones potenciales de la IA son ilimitadas. Sin embargo, esta misma potencia también genera una formidable gama de riesgos, que van desde la interrupción económica hasta las amenazas existenciales.
Además, el advenimiento de la IA plantea dilemas éticos profundos, particularmente en el ámbito de las armas autónomas y los algoritmos de toma de decisiones. A medida que los sistemas de IA adquieren autonomía representan un grave riesgo de ser explotados para fines nefastos, amplificando el potencial de resultados catastróficos. El profesor Harari subraya la necesidad urgente de marcos éticos sólidos y de salvaguardias regulatorias para gobernar el desarrollo y despliegue de tecnologías de IA, no sea que inadvertidamente desatemos fuerzas más allá de nuestro control.
Además, la proliferación de la IA amenaza con exacerbar las preocupaciones de privacidad existentes y erosionar la autonomía individual. Con la proliferación de tecnologías de vigilancia y algoritmos predictivos hay un sentido palpable de inquietud en torno a la erosión de la privacidad y a la mercantilización de los datos personales.
El profesor Harari destaca contra la proliferación no controlada de la vigilancia de la IA advirtiendo sobre la legada de la “distopía Orwelliana” (término que refiere a un régimen totalitario en el cual, el estado ejerce poder absoluto sobre sus ciudadanos) si no protegemos nuestras libertades fundamentales.
A la luz de estas realidades sobrias, el profesor Harari aboga por un enfoque matizado para la gobernanza de la IA que priorice los valores humanos y el bienestar social. En lugar de sucumbir al atractivo del progreso tecnológico no controlado, debemos atender a las lecciones de la historia y ejercer prudencia al navegar por la revolución de la IA. Esto implica fomentar el diálogo interdisciplinario, involucrar a diversas partes interesadas y fomentar una cultura de innovación responsable.
En última instancia, los riesgos de la IA son tan profundos como ubicuos desafiándonos a confrontar las preguntas fundamentales sobre lo que significa ser humano en una era de avances tecnológicos sin precedentes. En palabras del profesor Harari: "El surgimiento de la IA requiere una reevaluación de nuestros valores, prioridades y destino colectivo. Solo confrontando los riesgos con claridad y resolución podemos aprovechar el potencial transformador de la IA para el beneficio de la humanidad".
Definitivamente hay un largo camino por recorrer sobre la legislación de la IA, legislación que genera y provoca muchas preguntas como, si el momento es el correcto o si tal vez estaremos solo limitando un gran descubrimiento. Probablemente habrá varios diseñadores y desarrolladores que tomen el paso de no hacer caso a las muchas voces sobre los riesgos y la necesidad de regular herramienta tan poderosa que solo se hace más poderosa con el tiempo y a una gran velocidad.
Por todo lo anterior, quien ha puesto el dedo en el renglón es el Parlamento de la Unión Europea que ha tenido a bien elaborar una “Ley de Inteligencia Artificial” que regule la tecnología. La ley, tiene dos objetivos claros:
i) Garantizar que los sistemas de IA utilizados en la Unión Europea e introducidos en el mercado europeo sean seguros y respeten los derechos de los ciudadanos
ii) Estimular la inversión y la innovación en el ámbito de la IA en Europa.
El acuerdo establece que un reglamento de IA debe aplicarse dos años después de su entrada en vigor. Es verdad que esta legislación es causal de varias preguntas y entre ellas su efectividad. Sin embargo, alguien tenía que dar el paso y comenzar a colocar las primeras piedras.
La legislación sobre IA introducida por la Unión Europea tiene como objetivo establecer un marco regulatorio integral para el desarrollo y despliegue de tecnologías de Inteligencia Artificial (IA) en diversos sectores. La legislación busca equilibrar la promoción de la innovación con la protección de los derechos fundamentales, los principios éticos y el bienestar social.
La ley de inteligencia artificial de la Unión Europea (UE) es la primera ley integral en materia de inteligencia artificial del mundo. El objetivo principal es tratar los riesgos para la salud, la seguridad y los derechos fundamentales. El reglamento pretende proteger la democracia, el Estado de Derecho y el medio ambiente.
Como se ha discutido en diferentes foros, una de las mayores preocupaciones son los sesgos y la opacidad de muchos algoritmos creando incertidumbre hasta llegar a obstaculizar la aplicación efectiva de la legislación actual en materia de seguridad y derechos fundamentales, razón por la cual es necesario una acción legislativa que pueda garantizar el correcto funcionamiento del mercado interior de los sistemas de IA, con un balance entre beneficios y riesgos.
La legislación abarca aplicaciones como sistemas de identificación biométrica o las decisiones de la IA que afecten a intereses personales importantes como son ámbitos de contratación, educación y asistencia sanitaria o policial.
El reglamento se basa en principios como son, una IA, robótica y tecnologías conexas controladas por seres humanos, seguridad, transparencia y rendición de cuentas, salvaguardias y vías de recurso contra el sesgo y discriminación, derecho de resarcimiento, responsabilidad social e igualdad de género, respeto a la intimidad y restricciones al uso del reconocimiento biométrico, buena gobernanza, incluidos los datos utilizados y producidos por dichas tecnologías.
Nota: En la segunda parte de este artículo analizaremos a fondo las ventajas de la legislación sobre la IA en Europa.
*Gigi Agassini, CPP
Consultora Internacional de Seguridad
GA Advisory
[email protected]
