La ética en la educación con Inteligencia Artificial[1] (IA) se ha convertido en un tema crucial en nuestros tiempos. Nos damos cuenta de lo importante que es reflexionar sobre este tema si tan sólo por un momento pensamos en cómo la IA está revolucionando la forma en que enseñamos y aprendemos, pero ¿cuáles son las implicaciones éticas de esta revolución?
Las implicaciones éticas del uso de la IA en la educación han preocupado a organismos de todo el mundo que están formulando lineamientos sobre el tema. ¿En qué consisten? En resumen, podemos decir que son una guía que nos ayuda a asegurarnos de que estamos utilizando la IA de manera responsable y para el bien común. Nos ayudan a reflexionar sobre cómo tratamos los datos, la privacidad de los estudiantes, y cómo asegurarnos de que todos tengan acceso equitativo a estas tecnologías. Pero veamos en detalle cuáles son algunos de estos principios éticos.
Ética e inteligencia artificial en la educación
El uso de la inteligencia artificial en la educación (AIDE, por sus siglas en inglés) ha revolucionado no sólo los procesos de enseñanza-aprendizaje, sino también la experiencia del aprendizaje en general. Por eso, no podemos perder de vista que existen desafíos para la implementación de la IA en la educación que debemos considerar para lograr el desarrollo sustentable de la AIDE, estos son los retos que señala la Unesco:
Hacer políticas públicas integrales, con inclusión y equidad.
Preparar al profesorado para la educación con IA.
Capacitar a la IA en educación.
Desarrollar sistemas de datos inclusivos con calidad.
Garantizar que la investigación en AIDE sea significativa.
Asegurar la ética y la transparencia en la recolección, uso y diseminación de datos.
Existen otros riesgos legales, éticos, de seguridad, etc., por ejemplo: sesgo sistemático, discriminación, desigualdad, xenofobia, brechas de desigualdad entre estudiantes, riesgos de privacidad asociados con la responsabilidad de los datos (consentimiento informado, violación de la privacidad, equidad, apofenia estadística), vigilancia y consentimiento, configuración de la identidad, confidencialidad del usuario, integridad e inclusión, recolección de datos, disponibilidad restringida de datos, sesgo y representación, propiedad, control y autonomía de los datos.
Los riesgos éticos que implica el uso e implementación de la IA en la educación son una preocupación relativamente nueva en el mundo, pero ya se están creando lineamientos y políticas para asegurar el buen uso de la IA en educación.
Principios éticos de la inteligencia artificial en educación
La Unesco es una de las organizaciones que más han trabajado en emitir lineamientos sobre la ética y la IA en la educación. En la siguiente imagen, se presentan los principios éticos generales acerca de la Inteligencia Artificial señalados por este organismo.
Otro organismo, la Federación Internacional para el Procesamiento de la Información, publicó en su Diario Oficial sobre Educación y Tecnologías de la Información los siguientes siete principios éticos fundamentales de la Inteligencia Artificial en la educación:
1. Transparencia y responsabilidad: se refiere a que los procesos de recolección, análisis e informe de datos, así como los procesos correspondientes al establecimiento, seguimiento y control de las normas de AIDE deben ser transparentes, accesibles y explicables. Asimismo, debe considerar el consentimiento informado, la propiedad de los datos y sus fines, además de las condiciones de uso de la IA.
2. Seguridad y protección: el diseño, desarrollo e implementación de la IA debe ser lo suficientemente robusta para proteger y salvaguardar los datos, con el fin de garantizar la privacidad y seguridad.
3. Sostenibilidad y proporcionalidad: debe considerar aspectos de diseño, desarrollo y uso para minimizar la huella ecológica, así como para evitar la alteración de la economía mundial, el mercado laboral, así como dimensiones sociales tales como la cultura y la política.
4. Gobernanza: hace referencia al establecimiento e implementación de políticas públicas para regular el desarrollo, uso y gestión de la IA, tomando en cuenta las consideraciones éticas.
5. Enfoque humano: debe complementar las capacidades cognitivas, sociales y culturales humanas, asegurando el control por parte del ser humano sobre los procesos de trabajo de la IA.
6. Privacidad: se debe garantizar la implementación del consentimiento informado del usuario, manteniendo la privacidad y confidencialidad de la información, tanto cuando estos proporcionan o cuando el sistema recopila datos sobre ellos.
7. Inclusión: (o accesibilidad) el diseño, desarrollo y despliegue de las AIDE deben tomar en cuenta la infraestructura, habilidades y aceptación social, la cual se adaptará a usuarios variados, con el fin de permitir el acceso y uso equitativo de la IA. Este mismo principio debe aplicar para datos y algoritmos, ya que estos deben ser no discriminatorios e imparciales, garantizando la equidad e igualdad entre los diferentes grupos de usuarios.
Es importante mencionar que muchos de los reportes no se enfocan en los derechos de los niños y las niñas a la privacidad. No obstante, organizaciones como la UNICEF, el Foro Económico Mundial, Unesco y otros, han salido en defensa de la inclusión de los derechos de los niños en las políticas éticas sobre IA.
Pero, ¿cómo aplicamos estos principios éticos en el aula? Bueno, la transparencia y la responsabilidad son clave. Significa que debemos ser claros sobre cómo se utilizan los datos y obtener el consentimiento informado de los estudiantes. También debemos garantizar la seguridad y protección de la información, así como ser conscientes de la sostenibilidad y la proporcionalidad en el uso de la IA.
Y no nos olvidemos de la inclusión. ¡Todos los estudiantes deben poder beneficiarse de estas tecnologías sin importar sus habilidades o antecedentes! Es por eso que resulta vital considerar la accesibilidad y adaptabilidad de la IA en el aula.
Como siempre, hay desafíos por delante. ¿Cómo nos preparamos nosotros mismos y a nuestros colegas para este nuevo mundo de educación con IA? ¿Cómo protegemos los derechos a la privacidad de nuestros estudiantes más jóvenes? Estas son preguntas importantes que debemos abordar juntos.
En resumen, la ética en la educación con IA es esencial para garantizar que estemos preparando a nuestros estudiantes para un futuro ético y responsable. Así que sigamos explorando, aprendiendo y asegurándonos de que la IA en el aula sea un instrumento para el bien común.
Referencias
Fuente original: redmagisterial.com/