La IA en las escuelas: ¿quién es el dueño de los datos de tu hijo?

5 de septiembre de 2012. Estudiantes de secundaria en San Antonio, Texas, iniciaron sesión en nuevas plataformas de aprendizaje personalizadas. Esto no era solo una herramienta nueva; era una revolución silenciosa. Estas plataformas prometían adaptarse al ritmo de cada niño y comenzaron a recopilar una gran cantidad de datos de los estudiantes.

Este cambio transformó la tecnología educativa para siempre. Las escuelas sustituyeron los libros de texto estáticos por herramientas digitales dinámicas e interactivas. Sin embargo, esta transformación planteó importantes interrogantes sobre la privacidad de los estudiantes. El camino desde simples libros de calificaciones digitales hasta sofisticados tutores de IA solo ha agudizado esas preocupaciones.

Cómo las aulas se volvieron digitales

Durante décadas, los datos de los estudiantes permanecieron en papel. Registros como la asistencia, las calificaciones y las notas disciplinarias se guardaban en archivadores cerrados con llave. Los maestros conocían bien a sus estudiantes y entendían las necesidades de aprendizaje de cada niño a través de la interacción directa.

A finales de la década de 1990, llegaron las herramientas digitales básicas. Las escuelas comenzaron a usar software para tareas administrativas. Estos primeros sistemas se limitaban principalmente a digitalizar registros antiguos, lo que los hacía más eficientes. Sin embargo, no alteraron sustancialmente la forma en que las escuelas recopilaban datos.

A principios de la década de 2000, llegaron los Sistemas de Gestión del Aprendizaje (LMS). Plataformas como Blackboard y Moodle se hicieron comunes, facilitando la entrega de tareas y el seguimiento de calificaciones. Aunque almacenaban más información en línea, se limitaban principalmente a recopilar datos de rendimiento académico.

En 2006, Google introdujo Google Apps for Education. Esta colección, que incluía Gmail, Docs y Calendar, se popularizó rápidamente en las escuelas K-12. A los distritos les encantaron estas herramientas por ser baratas y facilitar la colaboración. Pronto, una enorme cantidad de comunicación y trabajos escolares de los estudiantes pasó a almacenarse en los servidores de Google.

Este cambio inició nuevas discusiones. Las escuelas adoptaron potentes herramientas digitales, a menudo sin comprender completamente las implicaciones que esto tenía para los datos. Los datos de los estudiantes pasaron entonces a manos de empresas de terceros, que tenían sus propios modelos de negocio y políticas de datos.

Cuando la IA llegó a la escuela

Para 2012, el aprendizaje personalizado se había convertido en una prioridad. Empresas como Knewton, con sede en la ciudad de Nueva York, lideraron el camino con plataformas de aprendizaje adaptativo. La tecnología de Knewton utilizaba algoritmos para analizar los datos de rendimiento de los estudiantes y recomendar contenido educativo personalizado.

Fundada en 2008, Knewton fue una empresa pionera en el aprendizaje adaptativo, desarrollando plataformas que utilizaban algoritmos para analizar los datos de los estudiantes y personalizar el contenido educativo. Su auge a principios de la década de 2010 marcó un cambio significativo hacia la educación basada en datos, lo que provocó los primeros debates sobre la privacidad de los estudiantes. (Fuente: bizjournals.com)

Knewton se asoció con importantes editoriales. Su CEO, Jose Ferreira, compartió públicamente una visión ambiciosa: un futuro donde cada estudiante obtendría una ruta de aprendizaje única, optimizada por la ciencia de datos para ser lo más efectiva posible. La empresa afirmó que sus algoritmos podían predecir el éxito de los estudiantes.

Esta nueva ola de herramientas de IA recopilaba más que calificaciones. Rastreadaban cada clic, pausa y respuesta, monitoreaban el tiempo dedicado a las preguntas y registraban patrones de interacción. Se suponía que estos datos detallados refinarían los algoritmos de aprendizaje y, al mismo tiempo, construían perfiles digitales exhaustivos de los estudiantes.

Empezaron a surgir preocupaciones. En 2014, el Future of Privacy Forum (FPF) publicó un informe que señalaba la opacidad en las prácticas de datos de la tecnología educativa. Amelia Vance, del FPF, destacó que muchos contratos escolares eran débiles, ya que no definían claramente la propiedad o el uso de los datos, lo que dejaba expuestos los datos de los estudiantes.

El Student Privacy Pledge se lanzó en 2014. Esta iniciativa de la industria logró la adhesión de más de 200 empresas de tecnología educativa, que prometieron no vender datos de estudiantes ni usarlos para publicidad dirigida. Esto no solo mostró una creciente conciencia, sino que también reflejó la presión de los defensores de la privacidad.

Pero el compromiso era voluntario y no tenía ningún mecanismo de cumplimiento. Muchas empresas seguían recopilando una gran cantidad de datos, que utilizaban para mejorar sus productos. Esta práctica a menudo desdibujaba los límites y generaba interrogantes sobre el verdadero propósito de la recopilación de datos.

COVID-19: una fiebre del oro de datos

En marzo de 2020, la COVID-19 obligó a las escuelas de todo el mundo a adoptar el aprendizaje remoto. Este evento impulsó la adopción de la tecnología educativa, y millones de estudiantes se trasladaron a plataformas en línea de la noche a la mañana. Herramientas como Zoom, Google Classroom y diversas soluciones de evaluación con IA se volvieron esenciales.

Este rápido cambio también expuso a los estudiantes a nuevos métodos de recopilación de datos. Los servicios de supervisión en línea, como Proctorio y Honorlock, experimentaron un auge masivo. Estas herramientas, que utilizaban IA, monitoreaban a los estudiantes durante los exámenes mediante cámaras web, micrófonos y el uso compartido de pantalla para detectar comportamientos sospechosos.

Estas herramientas de supervisión recopilaban datos biométricos, analizando los movimientos faciales y la mirada, y grabando los entornos de audio. Los estudiantes manifestaron un alto nivel de estrés y les preocupaban las falsas acusaciones de trampa. Los defensores de la privacidad denunciaron esta vigilancia invasiva.

Durante la pandemia de COVID-19, el software de supervisión en línea como Proctorio y Honorlock experimentó un aumento masivo en su uso, empleando IA para monitorear a los estudiantes a través de cámaras web, micrófonos y el uso compartido de pantalla, lo que generó importantes preocupaciones sobre la recopilación de datos biométricos y la privacidad de los estudiantes. (Ilustración generada por IA)

La Electronic Frontier Foundation (EFF) se opuso firmemente. En un libro blanco de 2020, Bill Fitzgerald, de la EFF, calificó estas herramientas de “invasivas para la privacidad” y advirtió que se estaban creando registros permanentes de vigilancia de estudiantes que podrían acompañarlos incluso después de su etapa escolar.

Las herramientas de aprendizaje socioemocional (SEL) también suscitaron inquietud. Algunas plataformas de IA afirmaban detectar las emociones de los estudiantes mediante reconocimiento facial o análisis de voz, con el objetivo de identificar a aquellos que necesitaran apoyo. Los críticos calificaron esto de altamente intrusivo y cuestionaron la precisión y la ética de dicha supervisión.

El enorme salto en el aprendizaje digital significó una avalancha masiva de datos de estudiantes. Las escuelas, a menudo carentes de recursos, tuvieron dificultades para examinar cada nueva plataforma en busca de riesgos de privacidad. Esto creó condiciones propicias para las filtraciones y el uso indebido de datos.

Reglas y nuevos problemas

Los legisladores respondieron al aumento en la recopilación de datos. En 2013, California aprobó la Ley de Protección de Información Personal en Línea de Estudiantes (SOPIPA), una ley estatal histórica que impidió a las empresas de tecnología educativa dirigir anuncios a los estudiantes y prohibió la creación de perfiles de estudiantes para usos no educativos.

A nivel nacional, la Ley de Derechos Educativos y Privacidad Familiar (FERPA) siguió siendo la principal ley federal que protege los registros educativos de los estudiantes. Sin embargo, fue redactada en 1974, antes de la llegada de internet y la IA, por lo que aplicarla a la tecnología educativa moderna ha sido objeto de un intenso debate.

En 2021, la Federal Trade Commission (FTC) advirtió a las empresas de tecnología educativa, recordándoles sus obligaciones bajo la COPPA. La Ley de Protección de la Privacidad en Línea de los Niños (COPPA) requiere el consentimiento de los padres para recopilar datos de niños menores de 13 años, y la FTC enfatizó que las empresas no pueden obligar a los padres a renunciar a sus derechos de privacidad.

La IA generativa llegó en 2022, planteando nuevos dilemas de privacidad. Herramientas como ChatGPT entraron en las aulas, y los estudiantes las utilizaron para escribir, investigar y resolver problemas. Estos modelos de IA aprenden de las aportaciones de los usuarios, lo que significa que las consultas de los estudiantes y el trabajo original se convierten en parte de los datos de entrenamiento.

OpenAI, el desarrollador de ChatGPT, ha declarado que utiliza el contenido del usuario para mejorar sus modelos. Sin embargo, también ofrece versiones empresariales que prometen no utilizar los datos de los clientes para el entrenamiento. Esta diferencia es vital para las escuelas, que deben entender cómo se manejan los datos de sus estudiantes.

ChatGPT, desarrollado por OpenAI, entró rápidamente en las aulas en 2022, lo que provocó nuevos debates sobre la privacidad de los datos de los estudiantes, ya que las entradas de los usuarios se convierten en parte de sus datos de entrenamiento. (Ilustración generada por IA)

El Dr. Neil Selwyn, profesor de educación en la Universidad de Monash, señaló este problema, destacando que la privacidad de los estudiantes a menudo se pasa por alto. Las escuelas se centran en los beneficios instructivos de la IA, pero a menudo ignoran su rastro de datos, lo que crea un gran riesgo.

Protegiendo a los niños en un mundo digital

Proteger los datos de los estudiantes es crucial en la era de la IA. Si bien la IA en la educación ofrece instrucción personalizada y aprendizaje adaptativo, también exige una estricta atención a la privacidad de los datos. Escuelas, padres y legisladores deben trabajar juntos para establecer límites claros.

Un paso clave es una sólida verificación de proveedores. Las escuelas deben examinar a fondo los contratos de tecnología educativa para entender qué datos se recopilan, cómo se almacenan y cómo se utilizan. Deberían priorizar a las empresas que minimizan la recopilación de datos.

Educar a los estudiantes y a los padres también es vital. Necesitan entender sus derechos digitales y cómo se utilizan sus datos. Una comunicación clara por parte de las escuelas puede generar confianza y empoderar a los individuos para que tomen el control.

Los legisladores deben actualizar las leyes existentes y crear nuevas normativas que aborden las complejidades de la recopilación de datos impulsada por la IA. Estas leyes deben garantizar que los datos de los estudiantes se utilicen solo con fines educativos, y una aplicación más estricta es esencial.

El objetivo es utilizar el potencial de la IA sin comprometer la privacidad de los estudiantes. El aula digital debe ser un espacio que fomente el aprendizaje, no una zona de vigilancia. Esto no se trata solo de proteger datos; se trata de proteger la infancia misma. Si fallamos, las escuelas corren el riesgo de convertirse en fábricas de datos, en lugar de lugares de descubrimiento. La lucha por la privacidad digital en la educación apenas comienza.

Preguntas que podrías tener

¿Qué tipo de datos de estudiantes recopila la IA? Las herramientas de IA en la educación pueden recopilar diversos tipos de datos, incluyendo rendimiento académico, asistencia, patrones de comportamiento y datos de interacción (clics, tiempo dedicado). Algunas herramientas también recopilan datos biométricos, como expresiones faciales y movimientos oculares.

¿Quién es el dueño de los datos de los estudiantes recopilados por las herramientas de IA? La propiedad de los datos es a menudo compleja y depende de los contratos. Generalmente, las escuelas son responsables de los datos de los estudiantes, pero las empresas de tecnología educativa que procesan estos datos a menudo conservan los derechos para utilizarlos en la mejora de sus productos.

Las herramientas de IA en la educación están recopilando cada vez más datos biométricos sensibles, como las expresiones faciales y los movimientos oculares de los estudiantes, para evaluar el compromiso o la comprensión. Esta práctica plantea importantes preocupaciones de privacidad, ya que estos datos podrían revelar información personal más allá del rendimiento académico. (Fuente: arxiv.org)

¿Qué leyes protegen la privacidad de los datos de los estudiantes? En EE. UU., la FERPA (Ley de Derechos Educativos y Privacidad Familiar) y la COPPA (Ley de Protección de la Privacidad en Línea de los Niños) son leyes federales clave. Muchos estados, como California con la SOPIPA, también han aprobado sus propias leyes de privacidad de estudiantes.

¿Qué pueden hacer los padres para proteger los datos de sus hijos? Los padres pueden preguntar a las escuelas sobre sus políticas de privacidad de datos, así como sobre las herramientas de tecnología educativa utilizadas y revisar sus políticas de privacidad. También pueden presionar para obtener protecciones de privacidad más sólidas en las reuniones de la junta escolar y con los legisladores.

Las reuniones de la junta escolar sirven como foros públicos cruciales donde los padres pueden interactuar directamente con los líderes educativos locales para abogar por políticas más sólidas de privacidad de datos de los estudiantes y revisar el uso de herramientas de tecnología educativa. (Ilustración generada por IA)

---

También te puede interesar:

👉 Jóvenes y la IA: riesgos y desafíos digitales más allá de las oportunidades

👉 La RV en la educación: revolucionando el aprendizaje y las aulas

👉 WannaCry: El ciberataque de 2017 que puso de rodillas al NHS