¿Hacia dónde se dirige la investigación y educación en tiempos de IA? 

En el marco de una conferencia que impartí en FLACSO en noviembre de 2024, estudiantes me hicieron tres preguntas. Una de ellas es la que respondo en la presente columna. Puesto que, además, es una inquietud que seguramente atraviesa a diversos posgrados, instituciones y universidades. 

Hoy, la inteligencia artificial (IA) se ha convertido en una herramienta indispensable en diversas áreas del conocimiento y su impacto en el ámbito educativo es innegable. Con el avance de la tecnología, las posibilidades que ofrece la IA para transformar el aprendizaje son amplias, pero también plantea nuevos retos. Por ejemplo, la UNESCO reveló que únicamente el 7% de centros escolares y el 13% de universidades que declararon tener orientaciones sobre el uso de la IA contaban con ellas formalmente. Lo que implica brechas y sesgos, hasta políticas públicas y regulaciones, en un entorno cada vez más cambiante. 

Desde la personalización del aprendizaje hasta la incorporación de herramientas avanzadas, como la realidad aumentada y los entornos virtuales, la IA promete redefinir cómo los estudiantes adquieren conocimiento y cómo los docentes facilitan este proceso. A la par de procesos que ya suceden en nuestro país, con escuelas que han incorporado de lleno la IA en sus procesos de enseñanza y aprendizaje, en contraposición a otras donde no hay luz o condiciones adecuadas para aprender. Pues en este 2024, únicamente el 23% de escuelas mexicanas hacen uso activo de la IA (sobretodo ChatGPT), según investigaciones de la empresa Cometa. 

Qué ha pasado con la inteligencia artificial: hacia una IA ética, creativa y crítica

Sin embargo, como toda tecnología, su implementación debe ser evaluada críticamente para asegurar que su uso sea ético, equitativo y beneficioso para todos y todas. Dado que sólo 4% de personas en México considera que la IA no tendrá afectaciones en la educación a futuro, mientras que el acceso desigual a la educación es contemplado como el segundo problema más importante a nivel global (29%), acorde con el informe de Ipsos en 2023. Hoy, más que otras ocasiones, es importante no delegar a los algoritmos decisiones que son humanas. Pues la IA y sus derivados, son herramientas. Depende de los comités humanos, validar y determinar decisiones, en caso de que se esté usando. 

Por lo que hoy nos convocan desafíos éticos, sociales y metodológicos, especialmente desde la perspectiva de las ciencias sociales. No es casual que actualmente repunten debates y estudios concernientes a los efectos de los medios, fake news, deep fakes, etc.

Por otro lado, de acuerdo con los investigadores en el área de informática, Ke Zhang y Ayse Begum Aslan en 2021, la IA en el aprendizaje está tomando una dirección clara hacia la personalización. Esta tecnología ajusta el contenido y el ritmo de aprendizaje a las necesidades individuales de los estudiantes, utilizando tutores inteligentes y sistemas de aprendizaje personalizados para mejorar los resultados educativos. Esto permite que el proceso se adapte de manera precisa a cada estudiante.

Es importante que esto no individualice la educación. Por el contrario, nuestra apuesta es hacer de la IA una herramienta para la colectivización de saberes. Fomentar ejercicios colaborativos y un aprendizaje entre pares. Esto nos ha ayudado a equilibrar los tecno-saberes (concepto que aborda Fernando Peroné en el libro El futuro ya no es lo que era); es decir, el desarrollo de habilidades y competencias operativas, aplicativas y cognitivas que sincronizan las herramientas tecnológicas y digitales para comunicarse. Por lo que nos parece peligroso que la tendencia sea hacia una hiper individualización. 

Inteligencia Artificial en la educación: de vuelta a las brechas

Otro aspecto que señalan en AI technologies for education: Recent research & future directions. Computers and Education: Artificial Intelligence es la evaluación dinámica y la retroalimentación adaptativa. El diseño de la IA permite ofrecer evaluaciones en tiempo real que identifican las brechas en el conocimiento y sugieren mejoras. Esta capacidad de ajustar el proceso de enseñanza sobre la marcha permite una educación más eficaz y personalizada, facilitando a estudiantes una retroalimentación inmediata y específica para mejorar su rendimiento.

De nuevo, y desde nuestra óptica crítica, no supone una sustitución de profesores (aunque algunas escuelas así lo conciben). En todo caso, se trata de la posibilidad de aprendizaje autónomo y, a veces, no formal de estudiantes. En mi propio caso, he aprendido de programas de IA generativa y su uso a través de tutoriales, videos e información aliada que he leído en bases de datos como Sci Space. En mis salones de clases les permito usar Perplexity para datos teóricos o de contexto, por la misma retroalimentación adaptativa de la que hablaba. Estos usos también los puedes consultar en el video “Tipos de IA para tu tesis e investigación”, que hemos desarrollado en Tesicafé (disponible en Youtube). 

Aunque, insistimos, no es la IA en sí misma con sus aditamentos lo que logrará cambiar la educación. Necesitamos profesores capacitados y con motivación en sus procesos de enseñanza y aprendizaje. De lo contrario, el uso de la IA será en función de un “odio la tecnología, porque me están obligando a usarla”. Algo que hemos escuchado en espacios académicos. Toda vez que el 80% de profesores en México considera importante capacitarse, acorde con Ipsos 2023.

Asimismo, resulta fundamental un trabajo inter y trans disciplinario en derredor de la IA. La colaboración entre tecnólogos, educadores y otros actores se está volviendo esencial para abordar desafíos éticos, de privacidad y de implementación. 

Lo que supone un auténtico reto para la formación de grupos interdisciplinarios en nuestro país. En el Centro de Investigaciones Interdisciplinarias en Ciencias y Humanidades (CEIICH, UNAM), contamos con el área de macro datos, internet e IA. Hacemos proyectos, talleres y diplomados interdisciplinarios. Y es un desafío escuchar posiciones que no son nuestras, para colaborar desde las áreas de cada quien. Pero es una encomienda necesaria. 

Finalmente, las preocupaciones sobre la privacidad de los datos y el manejo ético de la IA deben abordarse para asegurar que estas herramientas beneficien a todos los estudiantes sin comprometer sus derechos.

Esto implica temas de legislación (globales o no), ya que la IA rebasó al Estado-nación tradicional en su regulación. Hoy he conocido colegas que están interesadas en hacer estudios de extracción de datos y datificación particularizando en IA´s que hoy son de uso común: ¡Es importante seguir pensando en estos proyectos! Debido a que, según el IFT en 2021, al 25.3% de mexicanos le preocupa la finalidad para la que se usarán sus datos y al 24.5% el robo de su información e identidad. 

Por nuestra parte, seguiremos leyendo sobre estos temas y sumaremos mediante talleres de alfabetización crítica en IA: investigadores, periodistas, profesores, tomadores de decisiones públicas. En otras palabras, necesitamos conformar diálogos con ética y responsabilidad. 

*Gracias a Arlette Morales por su apoyo en la revisión y búsqueda de datos para esta columna. 

La IA, entre la ética, la apropiación crítica y sus paradojas

Comentarios