Inteligencia artificial y la educación: desafíos éticos

POR JIMMY ROSARIO BERNARD 

El 29 de abril, la República Dominicana celebra el Día Nacional de la Ética Ciudadana, una ocasión que invita a reflexionar sobre la importancia de la ética y la responsabilidad en nuestra sociedad. 

En este contexto, fue un honor participar como panelista en el evento «Ética en la Inteligencia Artificial», organizado por el Ministerio de Educación Superior, Ciencia y Tecnología (MESCyT) y la Universidad Autónoma de Santo Domingo (UASD).

En dicho evento en mis tres intervenciones resumí, como la IA está transformando rápidamente la forma en que accedemos al conocimiento, realizamos investigaciones y aplicamos prácticas de enseñanza innovadoras. Sin embargo, junto a estas oportunidades sin precedentes, también surgen desafíos éticos y dilemas que debemos abordar con diligencia y compromiso. Uno de los principales desafíos es garantizar la privacidad y protección de los datos personales de estudiantes y profesores.

Según datos recopilados por la UNESCO, alrededor del 89% de los estudiantes a nivel mundial se vieron afectados por el cierre de escuelas debido a la pandemia de COVID-19, lo que llevó a un aumento en el uso de tecnologías de IA en el ámbito educativo. El informe «Global Education Monitoring Report 2020» destaca la importancia de garantizar la privacidad y protección de datos en el uso de estas tecnologías.

En el ámbito educativo, se manejan datos sensibles como información personal, registros académicos y comportamiento en línea. La falta de privacidad y protección de datos puede llevar a riesgos como robo de identidad, discriminación y pérdida de confianza en las instituciones educativas. Además, las instituciones enfrentan dificultades técnicas y organizativas en la protección de datos, como la falta de recursos, la necesidad de colaboración entre múltiples partes y la creciente complejidad de los sistemas de IA.

La Ley No. 172-13 de la República Dominicana, establece disposiciones importantes para la protección de datos personales, como el consentimiento del titular, el deber de confidencialidad y la obligación de adoptar medidas de seguridad adecuadas. Las instituciones y los proveedores de servicios de IA deben cumplir con la ley y garantizar la protección de los derechos de los titulares de datos.

Por otro lado, las instituciones educativas y los proveedores de servicios de IA tienen responsabilidades éticas en la protección de datos. Deben ser transparentes en el uso y compartición de información sensible y rendir cuentas por las decisiones tomadas por los sistemas de IA. Para garantizar la transparencia y rendición de cuentas, es importante implementar políticas claras, comunicarse abiertamente con los titulares de datos y supervisar continuamente los sistemas de IA.

Abordar los desafíos en la privacidad y protección de datos en la educación basada en IA es esencial para crear un entorno educativo seguro y justo.

Algunas recomendaciones incluyen capacitar al personal y a los estudiantes sobre la importancia de la privacidad y protección de datos, implementar políticas claras y procesos de consentimiento, establecer canales de comunicación abiertos y adoptar medidas de seguridad adecuadas. Además, es fundamental realizar auditorías  periódicas para garantizar el cumplimiento de la ley y proteger los datos sensibles.

jpm-am