Cuando la inteligencia artificial entra al aula, entra también con ella una capacidad sin precedentes de recopilar, procesar y analizar datos sobre niños, niñas y adolescentes. Esa capacidad puede ser una herramienta poderosa para la personalización del aprendizaje. También puede ser una violación de derechos si no se gestiona con los marcos adecuados.

Por qué los datos educativos son especialmente sensibles

Los datos educativos no son datos como los demás. Revelan patrones de pensamiento, fortalezas y debilidades cognitivas, comportamientos sociales y, en muchos casos, información indirecta sobre la situación familiar. Un sistema de IA que analiza el aprendizaje de un niño está construyendo, sin que nadie lo haya pedido explícitamente, un perfil psicológico de ese niño.

“Los datos de un niño de 8 años no son un activo de negocio. Son información sobre una persona en formación que debe ser protegida con los más altos estándares éticos.” — Equipo de Ética, Mentu Labs

Los cinco principios de protección

  1. Mínimo de datos necesarios: solo recopilamos los datos estrictamente necesarios para el funcionamiento pedagógico de la herramienta.
  2. Consentimiento informado real: los formularios de consentimiento están escritos en lenguaje comprensible para familias sin formación técnica.
  3. Propósito único: los datos recopilados para un propósito pedagógico no se usan para ningún otro propósito, incluyendo mejora de producto.
  4. Derecho al olvido: cuando un estudiante sale del proyecto, todos sus datos son eliminados de forma irreversible en un máximo de 30 días.
  5. Auditoría independiente: nuestras prácticas de protección de datos son revisadas anualmente por un auditor externo.

El marco institucional de Mentu Labs

Seguridad y privacidad de datos

Nuestro marco de protección de datos está diseñado para contextos de alta vulnerabilidad donde la comprensión de derechos digitales es limitada. No asumimos que las familias entienden qué significa dar acceso a datos de sus hijos a un sistema de IA. Por eso, cada nuevo proyecto incluye una sesión de formación en derechos digitales para familias antes de cualquier implementación.

Compromiso público: Mentu Labs se compromete a no vender, ceder ni monetizar bajo ninguna forma los datos de estudiantes, docentes o instituciones que participan en nuestros proyectos. Este compromiso es incondicional.