La inteligencia artificial (IA) es una disciplina en el campo de las ciencias de la computación, capaz de proveer modelos, programas y técnicas que por sus características se asocian a la inteligencia de la naturaleza humana; el razonamiento, la resolución de problemas, la predicción, y la toma de decisiones.
La inteligencia artificial (IA), genera en Educación, sin duda, un cambio disruptivo. Frente a escenarios en el aula con niveles heterogéneos en los ritmos de aprendizaje, ofrece la diferenciación de la enseñanza a partir de las características individuales de cada estudiante. Esto es posible mediante el análisis de un conjunto de datos relacionados con la historia educativa, perfiles psicosociales, estilos de aprendizaje y una tecnología avanzada.
En este contexto innovador, el impacto de una pedagogía más personalizada produce valiosas oportunidades para cada uno de los actores del Sistema Educativo. Para el estudiante estos programas expertos, reconocen la diversidad en los ritmos de aprendizaje, ofrecen retroalimentación en tiempo real a sus errores y favorecen las competencias digitales. Para el profesor colaboran en las tareas de planificación, diseño y organización de los contenidos didácticos, proveen automatización inteligente de las rutinas administrativas, y permite además personalizar la enseñanza en función del diagnóstico y déficit de cada alumno.
Ahora bien, en este contexto innovador, ¿cuál es la relación entre la ética, las soluciones de Inteligencia Artificial (IA) y la educación?
En primer lugar, la personalización del aprendizaje permite adaptar la enseñanza de acuerdo a las necesidades de cada estudiante. La perspectiva ética en las innovaciones digitales, asegura que no se generen sesgos involuntarios o inequidades preexistentes, y además, que no se profundicen las brecha de acceso a estas herramientas.
En segundo lugar, las soluciones de inteligencia artificial recopilan gran cantidad de datos sobre la historia educativa del estudiante, e incluso en base a estos hallazgos, predicen su rendimiento escolar. La mirada ética se dirige a la generación de acciones que protejan la privacidad de los datos de cada estudiante y el uso de dicha información de manera adecuada.
Por último, el enfoque ético debe considerar el impacto de estas innovaciones en la labor docente y propender al desarrollo de estrategias de apoyo para la actualización y formación profesional.
En esta línea de análisis, surgen los siguientes interrogantes…
¿Es la tecnología de la IA neutral? ¿Hasta qué punto podemos delegar en las soluciones de Inteligencia Artificial (IA) la autonomía en los diseños de los contenidos educativos?
¿Cómo minimizar los riesgos potenciales de exclusión y discriminación algorítmica promoviendo la participación a lo largo del ciclo de vida de los proyectos digitales de los diferentes actores de las instituciones educativas (familias, estudiantes, docentes y directivos)?
En el marco del programa especializado de la Universidad de Utrecht (Países Bajos) sobre la Aplicación de la Ética en las Innovaciones Digitales, por sus siglas en inglés (Applying ethics in digital Innovation) pude acceder al estudio de diferentes modelos de análisis, cuyo enfoque profundiza en la dimensión ética, legal, social, y los integra, en el diseño e implementación de los proyectos digitales.
Al respecto, una fuente bibliográfica de sumo importancia, es el documento publicado por el equipo de expertos de Inteligencia Artificial conducido por la Comisión Europea . En él, se describe una lista de requisitos que deben contemplarse en el desarrollo de los sistemas de Inteligencia Artificial (IA) para brindar seguridad, sustentabilidad, privacidad en el tratamiento de los datos, y trazabilidad en el proceso de toma de decisiones.
A fin de implementar esta guía de estándares éticos, destacan la importancia de la conformación de equipos multidisciplinarios provenientes de diferentes expertise y/o competencias, ciencias de datos, ciencias jurídicas, ciencias de la educación y filosofía, entre otras.
Esta perspectiva holística para el desarrollo de los proyectos de Inteligencia Artificial (IA) en las organizaciones, con foco en la intervención humana, generará sin duda, el círculo virtuoso para la aplicación de modelos éticos en Educación. El desafío está planteado.
* La autora es Especialista en Políticas Educativas (UTDT). Líder del área de Educación e IS en el laboratorio de innovación e IA de la Facultad de Derecho. UBA.
