El tema de la inteligencia artificial (IA) y la juventud hoy es una prioridad para la sociedad en general, pero también para las instancias educativas. Así, por ejemplo, para la Comisión Europea y el Consejo de Europa en el ámbito de la Juventud (Asociación para la Juventud) en el programa de trabajo 2022-2023. En ese programa se hablaba del trabajo realizado por la Asociación para la Juventud sobre la digitalización y su conexión con la participación de los jóvenes, la democracia y la inclusión social, explorado ya anteriormente en otros simposios anteriores: Navigating transitions: adapting policy to young people’s changing realities (Tirana, 2022) y Connecting the dots: young people, social inclusion and digitalisation (Tallin, 2018), así como en el estudio de seguimiento y el Youth Knowledge Book sobre inclusión social, digitalización y jóvenes.

La IA es un campo atractivo, pero al mismo tiempo permanece como un reto para amplias capas de la sociedad. Las investigaciones publicadas en los últimos años muestran un número creciente de situaciones en las que las tecnologías de IA han provocado problemas sociales, especialmente perpetrando prejuicios históricos, amplificando la polarización y acumulando desventajas.

Algunas de las causas de tales perjuicios se han relacionado con pruebas insuficientes, falta de normas éticas o legales, o falta de información y concienciación entre los usuarios.

Las situaciones que nos ofrece la realidad en relación a los jóvenes pueden resumirse en las siguientes categorías:

1. Impacto de la IA en la libertad de expresión y los derechos cívicos: la naturaleza invisible y omnipresente de los algoritmos y el microtargeting en la mayoría de las plataformas web (desde las redes sociales, los motores de búsqueda, los agregadores de noticias o los servicios de entretenimiento) ha amplificado el poder de las burbujas de filtros y ha aumentado la polarización, al tiempo que ha suscitado preocupación sobre cómo podrían utilizarse estas herramientas con fines de vigilancia;

2. Impacto de la IA en los derechos sociales: hay situaciones en las que el despliegue de tecnologías de IA ha causado un daño real a los derechos de las personas, a menudo debido a sesgos descubiertos en dichas tecnologías.

3. IA y futuro del trabajo: se examinan los retos creados por la IA en la configuración del futuro del trabajo, al tiempo que se considera la preparación del sistema educativo para abordarlos de manera oportuna.

4. IA y salud mental: las pruebas indican que el uso excesivo de plataformas en línea, combinado con el papel de filtro de los algoritmos, ha provocado un aumento de la imagen corporal negativa, la depresión o incluso el suicidio entre los jóvenes.

La IA y la salud mental: las pruebas indican que el uso excesivo de plataformas en línea, combinado con el papel de filtro de los algoritmos, ha provocado un aumento de la imagen corporal negativa, la depresión o incluso el suicidio entre los jóvenes. Aunque muchos otros ejemplos y temas de interés pueden conectar la IA y los jóvenes, la lista anterior destaca los principales puntos de interés para el sector de la juventud.

La IA se construye y se centra en los datos. Los datos son el recurso que alimenta todas las tecnologías de IA. Para que las tecnologías funcionen o mejoren su rendimiento, necesitan más datos. Esto es especialmente relevante para los jóvenes, como grupo de usuarios tempranos y frecuentes de Internet y las tecnologías, que se convierten implícitamente en la fuente de datos que alimenta muchas de las tecnologías privadas de IA, desde las plataformas de redes sociales a otros productos domésticos inteligentes, pasando por los videojuegos y muchos otros.

Los jóvenes, los profesionales del trabajo con jóvenes, los educadores, los proveedores de servicios y las partes interesadas en las políticas de juventud debemos comprender y prestar atención a las implicaciones de este intercambio de datos involuntario y, en su mayoría, automático, y a sus posibles consecuencias. Se pueden encontrar más ejemplos del impacto de la IA en los informes y recomendaciones publicados por el Consejo de Europa y el Parlamento Europeo, con otros recursos más específicos que analizan el impacto sobre los niños o los jóvenes: el Memorando sobre Inteligencia Artificial y Derechos del Niño y Juventud e Inteligencia Artificial.