Vivimos en el mismo mundo de siempre, pero con nuevos retos desde que hace solo unos años la inteligencia artificial (IA) generativa irrumpiera en nuestro día a día. En términos generales, el impacto ha sido distinto dependiendo de la generación de quien utiliza estos modelos: mientras los más jóvenes y menores han nacido y crecido rodeados de digitalización, los mayores, acostumbrados a operar en un entorno analógico, suelen tener dificultades para entender esta nueva realidad. Y las generaciones intermedias se dividen entre quienes asimilan estas herramientas y quienes necesitan ayuda de los chavales para su uso. Los más vulnerables frente a un mal uso de los algoritmos son los más jóvenes, pero también la tercera edad. ¿Cómo pueden aprovechar esta herramienta? ¿Se puede regular el uso de los algoritmos? ¿Cuándo podemos fiarnos de la IA?

Todas estas cuestiones centraron el último encuentro de Jubilare titulado Inteligencia artificial, un reto intergeneracional, que acogió el 26 de marzo el Aula Francisco de Salinas de la Universidad de Salamanca y que se puede ver nuevamente aquí. Jubilare es una comisión científica impulsada por los Registradores de España, integrada por especialistas en distintas disciplinas, que estudia el proceso de envejecimiento y la realidad de las personas mayores con un enfoque multidisciplinar y transversal.

En un diálogo liderado por Rafael Palencia, decano de los Registradores de Castilla y León, intervinieron Mar España Martí, exdirectora de la Agencia Española de Protección de Datos (AEPD) y actual directora de la plataforma Control Z, y Moisés Barrio Andrés, doctor cum laude en derecho por la Universidad Carlos III, letrado del Consejo de Estado y miembro del Consejo Asesor de Aranzadi LA LEY. También estaba prevista la presencia de María Jesús Moro, doctora en derecho y profesora titular de derecho civil, que tuvo que acudir al pleno del Congreso en calidad de diputada, pero que dejó un mensaje grabado.

El encargado de abrir las intervenciones fue Juan Manuel Corchado Rodríguez, rector de la Universidad de Salamanca, que también intervino como ingeniero informático. «Vivimos en una sociedad en las que todos tenemos una gran demanda de conocimientos», también los jóvenes que utilizan TikTok, señaló. Y reconoció que «la inteligencia artificial está en camino de crear contenidos cada vez más interesantes», de ahí la importancia de saber cómo funciona, cuándo podemos fiarnos de ella y cuándo genera desinformación. «Tenemos una herramienta buenísima en nuestras manos. Bien utilizada, ayudará al mundo a que avance en la dirección correcta», concluyó.

Acto seguido, en un vídeo, la profesora María Jesús Moro destacó que la IA «presenta retos, desafíos y oportunidades para todos los miembros de la sociedad actual, que tenemos la responsabilidad de afrontarlos sin dejarnos atrapar por cantos de sirena, pero también sin convertirnos en negacionistas de todo aquello que no entendemos bien o que, de alguna manera, nos atemoriza».

A modo de introducción, Rafael Palencia adelantó que «vamos a tratar la franja de las personas mayores, la apertura de una nueva brecha digital, pero también nos fijaremos en los menores, los adolescentes y en la protección de la infancia y de la juventud». También planteó la disyuntiva entre regular esta tecnología o apostar por el libre mercado. «Nadie duda de que lo que es un delito en el mundo analógico lo seguirá siendo, aunque se perpetre con herramientas digitales. Y tampoco hay duda de que hay nuevos bienes jurídicos susceptibles de tutela y de protección que aparecen en el mundo digital y que tienen que ser objeto de regulación». Por último, destacó el reto del control transfronterizo de herramientas que se pueden utilizar desde distintos países y jurisdicciones y de la responsabilidad cuando se utiliza la IA, por ejemplo, en casos de tratamientos médicos o de resoluciones judiciales.

De los LLM a los RAG, ¿es fiable la IA?

La primera intervención la protagonizó el rector José Manuel Corchado, en calidad de ingeniero informático y doctor en inteligencia artificial, que recordó que, con el cambio de siglo, la investigación sobre IA quedó en segundo plano, frente al protagonismo de las bases de datos. Con el uso de internet y la telefonía móvil inteligente, se disparó la toma de imágenes y se encumbraron las grandes empresas para el almacenamiento de datos, que había que ordenar. Entonces, surgieron las redes neuronales y otras innovaciones que, con un único algoritmo, ofrecían soluciones a distintos requerimientos de información: el desarrollo se aceleró y permitió generar nueva información y optimizar procesos.

«Ahora estamos en la quinta revolución industrial con el desarrollo y el uso de la inteligencia artificial generativa, de la mano de algoritmos que tienen aprendizaje multimodal, que no trabajan solo con datos, sino con señales, imágenes, modelos, y nos permiten crear grandes gemelos digitales», comentó el rector.

Actualmente, contamos con sistemas que no solo nos responden, sino que son capaces de explicarnos cómo generan esas soluciones. Los grandes modelos de lenguaje natural (LLM), como ChatGPT u Open AI, «no son algoritmos como los de hace una década, sino que pueden interaccionar con nosotros» porque son capaces de relacionar todas las palabras de nuestro vocabulario y hasta traducirlas. Pero no se han entrenado con todo el conocimiento existente. «Es como un niño que sabe hablar y sabe entender, pero a lo mejor no es un experto en computación cuántica. Te puede responder, pero es fácil que no lo sepa», puntualizó.

Pero la IA ha evolucionado y hemos pasado de los modelos de lenguaje (LLM) a los RAG (generación aumentada por recuperación). «A estas alturas sabemos que no nos podemos fiar de todo lo que nos diga ChatGPT: un modelo de este tipo nos puede dar ayuda y soluciones verdaderas en un porcentaje muy alto, pero no tenemos la total garantía. Pero con los RAG, sí», aclaró. Son una evolución, más fiables porque el modelo nos da la respuesta únicamente en función a una base de datos concreta y verificada, dan la respuesta y explican la fuente. De esta manera, dan más garantías porque es un modelo creado específicamente para ayudar a la toma de decisiones de un profesional.

Pero hay que entrenarlo y enriquecerlo, porque no es lo mismo el concepto libertad para un estadounidense, un europeo o un chino. «Cuanto mejor definamos y describamos nuestro concepto, mejor será nuestro modelo». Por ejemplo, Notebook LM es un RAG de Google, que indica de dónde ha sacado esta respuesta.

Aun así, no es infalible y hay que utilizarlo con precaución, pero sin temor. «¿Qué no tiene esto? Sentido común», subrayó, pero se le pueden dar unas directrices para que adopte nuestro criterio y se adapte a nuestra forma de trabajar. «Todo este miedo a veces es fruto de lo que Hollywood nos ha enseñado», indicó José Manuel Corchado.

¿Qué es lo que viene? Mencionó la Agentic IA, que son herramientas que permiten crear nuestros propios agentes, sin necesidad de saber de programación, que puede gestionar la agenda y responder emails. «Son sistemas que van a automatizar muchas cosas y que nos facilitarán el aprendizaje autónomo y personalizar las tareas que nos quitan tiempo». Desde su punto de vista, la IA traerá muchas ventajas, ofrecerá más tiempo libre y hará que el mundo mejore, pero si se utiliza bien.

¿Regular o liberar la IA?

El contexto geopolítico y regulatorio fue el tema que abordó el jurista Moisés Barrio, que señaló que «el problema no es regular, sino de aplicar la regulación», pero el entorno internacional y los conflictos en curso hace que el desarrollo de normas sea «complejo y sensible porque trae cortapisas al libre desarrollo que los principales fabricantes, de carácter transnacional y en su mayoría ubicados fuera de la UE, quieren tener». Desde su punto de vista, el diseño y uso de las tecnologías debe someterse a unas normas.

¿Por qué es complejo sentar las bases de una regulación más consensuada a nivel internacional? El experto desgranó cuatro razones. Por una parte, la aparición de grandes tecnológicas, que tienen una enorme influencia frente al papel de los estados. Por otra, han cambiado los procesos: el comercio, la logística, las monedas de pago, los productos, los servicios, etc. En tercer lugar, se han transformado las maneras de presionar y gratificar a los países, porque los recursos digitales, considerados críticos, a diferencia de los naturales, son artificiales y están concentrado en unas pocas manos. Y, por último, lo digital ha influido en la política de manera decisiva: el liderazgo se ejerce en redes sociales en tiempo real, modulando las emociones. Y esto ha marcado las relaciones internacionales, la manera de gobernar y de ejercer el poder: todo se plantea como un juego de suma cero, a diferencia de la cooperación.

Hoy, el clima político internacional ha comprometido la posibilidad de alcanzar acuerdos globales sobre regular la IA. «La regulación afecta la estabilidad internacional en un sentido positivo, porque tener estándares y reglas internacionales genera seguridad, y los fabricantes quieren seguridad; pero también negativamente, porque genera barreras y obstáculos cuando crea un terreno altamente descompensado. En este ámbito, la UE se ha erigido como un contrapeso en el que lo fundamental es la persona y toda gira en torno a ella», destacó. El quid de la cuestión es que la inteligencia artificial, que se programa como un software o un videojuego o un procesador de textos, tiene dos propiedades diferenciales: la autonomía y el autoaprendizaje. Es decir, no la gobernamos nosotros.

En este sentido, repasó los tres modelos regulatorios. Por una parte, descartó que Estados Unidos se rija por el libre mercado, sino que no han podido establecer una regulación federal y cada estado tiene la suya. «Hay más de 120 regulaciones», explicó. En segundo lugar, el modelo chino se caracteriza por una dirección estatal regulatoria y tiene delegados del Gobierno en las empresas que no son públicas. Y en medio está la Unión Europea, centrada en la persona y en los derechos fundamentales.

«El principio de proporcionalidad está en todo el Reglamento de Inteligencia Artificial (RIA)», sostuvo. Y por ello se establece una clasificación de riesgos porque «no tiene nada que ver la regulación de un coche autónomo, que es de alto riesgo, con el corrector ortográfico de Word, que no tienen ninguna obligación imperativa».

Desmintió también que Europa «mate» la innovación porque el RIA da gran libertad a la investigación llevada a cabo en las universidades. «Lógicamente, cuando sale al mercado, como cualquier otro producto, tiene que cumplir con la legislación», advirtió. El Reglamento fija unas líneas rojas con prácticas prohibidas, como sistemas que manipulan subliminalmente a las personas o a grupos vulnerables, o que hacen una evaluación o clasificación de personas, como ocurre en China (social scoring), reconocimiento facial o categorización biométrica, entre otros.

También se refirió a los sistemas de alto riesgo, que se pueden incorporar en productos o en algunos ámbitos que entrañan riesgos, como el abastecimiento de agua o para determinar a qué nivel educativos puede acceder un estudiante. A esta categoría, le siguen los sistemas de riesgo limitado, que son principalmente los que generan contenido artificialmente, que deben advertir al usuario. «Si yo llamo a la Agencia Tributaria y me va a atender una máquina, me tienen que informar». El resto de los sistemas, de bajo o nulo riesgo, como un corrector ortográfico o un antivirus, quedan sin regulación imperativa.

Se trata, por tanto, de un esquema que quiere ordenar y priorizar. El reto urgente es asegurar una gobernanza para que el beneficio llegue a todos y no solo a unos pocos, concluyó Moisés Barrio.

El impacto en el neurodesarrollo de los menores

Por último, intervino Mar España, que lidera la plataforma Control Z desde la que se organizan actividades de sensibilización y divulgación en el ámbito científico, social y mediático. Sin ser contraria a la tecnología, la especialista recordó que el modelo de negocio de internet se basa en que los usuarios pasen el mayor tiempo posible conectados para captar la mayor cantidad de datos posibles y poder comercializarlo. En este sentido, puso el foco en la infancia y la adolescencia. «Hay una diferencia muy importante entre los menores y nosotros. Es su neurodesarrollo» y advirtió que «el algoritmo no está diseñado para garantizar la esencia del ser humano ni su salud» y que un menor «no se puede autoproteger» porque la medicina sostiene que el cerebro no termina de madurar hasta los 35 años.

«El colectivo jurídico es un agente esencial en este ámbito» y destacó que hay una buena legislación a nivel europeo, pero «falta cumplimiento». También recordó la reciente sentencia contra Meta y YouTube, en la que un tribunal de Los Ángeles (California, Estados Unidos) las condenó a pagar 375 millones de dólares por los daños causados por generar adicción entre niños y adolescentes en sus redes sociales. El jurado consideró que fueron negligentes y que utilizaron su diseño para causar dependencia en los menores. Respecto de esta resolución, planteó que «quizás habrá que adoptar medidas cautelares para suspender ese tratamiento hasta que esas plataformas sociales no modifiquen esos patrones adictivos».

Asimismo, advirtió que la IA generativa, desde su diseño, está concebida para ser complaciente. «El 50% de los adolescentes no consultan a sus padres, amigos o profesiones, sino que preguntan a la IA para resolver sus problemas» además de para buscar información o preparar los exámenes. De ahí que no haya que olvidar el impacto de los patrones adictivos en los suicidios.

La exdirectora de la AEPD explicó que el principal objetivo del uso de la IA en plataformas digitales es acaparar la atención el mayor tiempo posible. «Nos puede liberar de tareas mecánicas, pero os invito a comprobar en el móvil vuestro tiempo de uso digital. Los médicos dicen que más de dos horas al día en adultos, ya afecta al deterioro cognitivo» y sostuvo que el tiempo que libera no se ha desplazado a fomentar relaciones humanas directas que den bienestar. «¿Dónde lo empleamos? En más IA y en más pantallas, retroalimentando un bucle infinito», criticó.

La exposición a las redes sociales estimula la segregación de la hormona de la dopamina, de la recompensa, es la que se estimula con las redes, pudiendo modificar nuestro comportamiento en base a la retroalimentación social. Esto puede tener graves consecuencias en menores, que disponen de móviles desde los 11 años y uno de cada tres lo usa cinco horas al día. Y el 60% duerme con el teléfono. Un uso excesivo de las pantallas implica que dejas de comer, de salir a la calle, de interactuar con personas.

«El problema no es la IA, el tema es con qué objetivos se diseñan los algoritmos» y apostó por hacer obligatorios los sistemas de verificación de la edad que impidan el acceso a las redes sociales antes de los 16 años porque en la adolescencia las personas construyen su personalidad. «Las familias no son conscientes del daño que supone que en la Primera Comunión o cuando empiezan el instituto se les dé un móvil», pero está aceptado socialmente como antes, en los años 70, se aceptaba que se fumara junto a un bebé.

Asimismo, cuestionó que la educación haya apostado por utilizar dispositivos electrónicos con algoritmos. «Yo me pregunto: ¿qué neurodesarrollo están apoyando los sistemas educativos actuales de las 17 comunidades autónomas, donde se obliga a las familias a comprar una tablet con ocho años, donde se está obligando a los niños a hacer deberes, cargándose su desarrollo?», criticó.

Ante este panorama, reclamó que se regule el derecho al neurodesarrollo adecuado, en vez de hablar de la desconexión digital efectiva del menor: «Parece que, al bebé con cero años, cinco o seis, los padres tienen que ofrecerle un dispositivo digital» y pidió normas para la industria tecnológica, tal como se ha hecho con la del tabaco o las farmacéuticas. «La industria no se va a autorregular porque no les interesa» y recordó que «ya no nos venden un producto, sino cómo me siento yo cuando tengo ese producto».

Por último, hizo una reflexión más filosófica sobre la cantidad de horas que pasamos enganchados a las plataformas digitales. «Tenemos que programar en nuestro humilde algoritmo personal, nuestra vida analógica. Yo os pregunto cuánto tiempo estáis sin ver el móvil» y priorizar contenidos de calidad para mejorar la salud, el tiempo y la conexión auténtica con otras personas y con el entorno. «Aprovechemos las ventajas de lo digital, pero sin olvidar que para ser un ser humano con mucho más que sentido común, con conciencia y con presencia, eso solo se puede conseguir desde el mundo analógico y con tiempos de silencio», concluyó.

Puedes acceder a la grabación de la jornada a través de este enlace.