La IA y los jóvenes: los costos ocultos

La IA no es que esté por llegar; ya está aquí, influyendo en el día a día de los jóvenes. Muchos creen que ofrece grandes oportunidades para el aprendizaje personalizado y el desarrollo de nuevas habilidades, preparando así a los jóvenes para los empleos del futuro. Pero esta creencia común está incompleta. Sin embargo, pasa por alto los importantes riesgos y desafíos que ya se manifiestan en todo el mundo.

Los sistemas de IA ahora influyen en las experiencias diarias de los jóvenes. Están presentes en aplicaciones educativas, algoritmos de redes sociales e incluso en herramientas para los primeros pasos profesionales. Adolescentes y jóvenes adultos (de 13 a 25 años) usan la IA cada vez más. Este uso generalizado muestra el verdadero impacto de la IA en ellos.

Lo que la mayoría de la gente dice: oportunidad y acceso

En 2023, la UNESCO publicó su “Guía sobre IA y Educación”. Mostró cómo la IA puede cambiar el aprendizaje. El informe enfatizó la educación personalizada, el aprendizaje adaptativo y un mejor acceso a la información para estudiantes de todo el mundo. Los defensores a menudo dicen que la IA adapta el contenido a las necesidades individuales de los estudiantes. Esto supone una gran mejora con respecto a la enseñanza estandarizada. Esta capacidad ofrece un potencial real para diferentes estilos de aprendizaje.

Las herramientas de IA encuentran lagunas de conocimiento y sugieren recursos específicos. Khan Academy, por ejemplo, utiliza la IA para guiar a los estudiantes a través de las matemáticas y las ciencias a su propio ritmo. Este enfoque personal aumenta el compromiso y mejora las calificaciones de muchos estudiantes. Sugiere un futuro en el que cada estudiante reciba una educación perfectamente adaptada a sus necesidades.

Brechas crecientes: los beneficios desiguales de la IA

Dejando a un lado los informes optimistas, los beneficios de la IA no se comparten por igual. Un informe de 2022 del Foro Económico Mundial sobre futuros empleos mostró una creciente brecha de habilidades digitales. Esta brecha no se trata solo del acceso a dispositivos. Se trata de la calidad de la interacción con la IA y la orientación crítica que reciben los jóvenes. Los estudiantes en escuelas con recursos insuficientes a menudo carecen de las herramientas y los maestros capacitados para usar la IA avanzada de manera efectiva.

Una investigación de la Brookings Institution en 2023 reveló que a los hogares de bajos ingresos les resulta más difícil utilizar la IA de forma significativa. Se enfrentan a internet poco fiable, hardware obsoleto y padres que carecen de alfabetización digital. Los distritos más ricos invierten en plataformas de IA avanzadas y capacitación docente. Esto crea una nueva desigualdad educativa. Profundiza las divisiones socioeconómicas existentes, en lugar de cerrarlas.

Khan Academy, fundada por Salman Khan, utiliza la IA para ofrecer rutas de aprendizaje personalizadas y un tutor de IA, Khanmigo, que guía a los estudiantes a través de materias como matemáticas y ciencias a su propio ritmo. Este enfoque tiene como objetivo aumentar el compromiso y mejorar el rendimiento académico para millones de personas en todo el mundo. (Ilustración generada por IA)

Pensemos en los sistemas avanzados de tutoría con IA. Algunas escuelas privadas en la ciudad de Nueva York pueden permitirse estos asistentes de aprendizaje personalizados. Muchas escuelas rurales en el sur de Estados Unidos no pueden. Los estudiantes de estas áreas desatendidas se ven privados de comentarios críticos e individualizados. Esto mantiene un ciclo en el que las ventajas de la IA van a aquellos que ya son privilegiados.

Demasiada información y pérdida de habilidades: efectos no deseados

La presencia constante de la IA también crea grandes problemas cognitivos para los jóvenes. La Dra. Jean Twenge, profesora de psicología en la Universidad Estatal de San Diego, investigó cómo los teléfonos inteligentes y la tecnología digital afectan la salud mental de los adolescentes. Su trabajo, incluido iGen, detalla tendencias preocupantes en la capacidad de atención y el pensamiento crítico. Depender demasiado de la IA para obtener información puede hacer que los niños sean menos propensos a la reflexión profunda.

Por ejemplo, los estudiantes que usan herramientas de escritura con IA podrían saltarse los pasos difíciles, pero esenciales, de la lluvia de ideas y el análisis crítico. Subcontratan tareas cognitivas básicas. Un estudio de 2023 en Educational Technology Research and Development encontró una tendencia preocupante. Los estudiantes que utilizaron intensamente la IA para la redacción de ensayos mostraron una menor mejora en sus habilidades de escritura independiente con el tiempo. Esto sugiere que la IA puede automatizar el desarrollo de habilidades, sustrayéndolo al propio estudiante.

Más allá del trabajo escolar, el contenido impulsado por IA en plataformas como TikTok ofrece ráfagas constantes y cortas de estimulación. Esto entrena los cerebros jóvenes para el consumo rápido de información, no para el enfoque sostenido. La Dra. Anna Lembke, profesora de psiquiatría en Stanford, afirma que este circuito de retroalimentación impulsado por la dopamina puede perjudicar la paciencia y la capacidad de concentración profunda. La estimulación digital constante puede crear una generación menos hábil para la resolución de problemas complejos.

El sesgo de la IA y la salud mental: lecciones tácitas

Los algoritmos de IA no son neutrales. Reflejan los datos con los que son entrenados y a menudo contienen sesgos sociales. Esto supone un reto para el desarrollo de los jóvenes. Un informe de 2021 del AI Now Institute de la NYU mostró cómo el sesgo algorítmico perjudica a la juventud marginada. Por ejemplo, los sistemas de reconocimiento facial a menudo identifican erróneamente a personas de color con mayor frecuencia. Esto lleva a una vigilancia injusta en las escuelas.

Los algoritmos de redes sociales, construidos para maximizar el compromiso, pueden dañar profundamente la salud mental de los jóvenes. Una advertencia del Cirujano General de EE. UU. de 2023 alertó sobre los graves riesgos de las redes sociales para la salud mental de los adolescentes. Estas plataformas usan IA para crear feeds personalizados. Estos feeds pueden potenciar problemas de imagen corporal, ciberacoso y comparaciones sociales poco realistas. Esta realidad creada puede distorsionar cómo los niños se ven a sí mismos y causar ansiedad.

Los sistemas de reconocimiento facial, cada vez más implementados en diversos entornos, incluidas las escuelas, a menudo se entrenan con datos sesgados, lo que lleva a tasas más altas de identificación errónea para la juventud marginada. Este sesgo algorítmico puede resultar en una vigilancia injusta y afectar desproporcionadamente a los estudiantes de color, planteando serias preocupaciones éticas sobre el papel de la IA en el desarrollo juvenil. (Ilustración generada por IA)

Imaginemos a una joven a la que se le muestra repetidamente contenido que promueve estándares de belleza extremos. El algoritmo, diseñado para el compromiso, refuerza accidentalmente estereotipos dañinos. Esto actúa como un “currículo oculto”. Modela sutilmente la identidad y los valores sin enseñanza o discusión explícita. Los jóvenes se vuelven vulnerables a estas influencias invisibles. El código manipula sutilmente su comprensión del mundo y su lugar en él.

Más allá del bombo: IA justa para los jóvenes

Necesitamos repensar cómo se integra la IA en el desarrollo de los jóvenes. Simplemente celebrar el potencial de la IA ignora sus problemas conocidos y las crecientes desigualdades. Debemos priorizar una IA ética, centrándonos en un diseño centrado en el ser humano. Esto significa construir una IA que mejore las capacidades humanas, no que reemplace los procesos esenciales de pensamiento y sociales.

Educadores y responsables políticos deben exigir transparencia a los desarrolladores de IA. Necesitamos auditorías claras de los sesgos algorítmicos y su impacto en jóvenes diversos. La Dra. Safiya Noble, profesora de la UCLA y autora de Algorithms of Oppression, aboga por la rendición de cuentas. Necesitamos saber cómo los sistemas de IA categorizan e influyen en la información. Esto ayuda a que la IA sirva a todos los jóvenes de manera justa.

Además, la alfabetización digital debe ir más allá de las habilidades informáticas básicas. Los jóvenes necesitan entender cómo funciona la IA. Deben saber cómo los algoritmos dan forma a sus experiencias en línea y cómo evaluar críticamente el contenido generado por IA. Esto incluye enseñar sobre la privacidad de los datos y el sesgo algorítmico. Solo entonces podrán los jóvenes dominar verdaderamente estas poderosas herramientas. Este enfoque ayuda a los jóvenes a convertirse en creadores informados, no solo en consumidores pasivos, de contenido impulsado por IA.

La Dra. Safiya Noble, profesora de la UCLA y autora de *Algorithms of Oppression*, aboga por la transparencia y la rendición de cuentas de los desarrolladores de IA para abordar los sesgos algorítmicos que afectan a la juventud. Su trabajo destaca la necesidad de una alfabetización digital crítica para comprender cómo los sistemas de IA categorizan e influyen en la información. (Fuente: govtech.com)

```

---

También te puede interesar:

👉 Bots en línea: El reto de detectar su suplantación en X y Facebook

👉 Desconectar por 800.000 millones: el auge de la desintoxicación digital

👉 Salud mental: la OMS y la cifra de uno de cada ocho. ¿Es una crisis?