Marcela Amaro Rosales: “La IA también es un problema social”

La inteligencia artificial (IA) avanza rápido, pero para Marcela Amaro el reto no es solo tecnológico, sino profundamente humano. Desde la dirección del Instituto de Investigaciones Sociales (IIS) de la UNAM, observa cómo esta tecnología está transformando la universidad, la forma de investigar y hasta la manera en que los estudiantes aprenden. Pero advierte que entenderla exige algo más que saber programar.

“La inteligencia artificial no existe sin la sociedad y no existe porque en realidad es resultado de la información y los datos que producen muchas personas. La generación de un algoritmo para que tomes decisiones viene de la sociedad. Entonces es imposible desligarlo”, afirma.

Para ella, ese vínculo revela una verdad incómoda, y es que la tecnología refleja las mismas desigualdades y dilemas éticos que existen fuera de la universidad.

Leer también: Japonés, coreano y chino: aprende idiomas asiáticos ¡gratis!

La IA cambia la forma de enseñar

Amaro reconoce que la IA ya forma parte de la vida académica cotidiana. No es una amenaza lejana, sino una herramienta que profesores y estudiantes usan todos los días. Sin embargo, insiste en que el reto no es prohibirla, sino comprenderla.

“Yo creo que la inteligencia artificial es algo muy poderoso. Es de estas tecnologías llamadas disruptivas que no vamos a poder frenar. Y que más bien hay que saber cómo incorporamos en nuestro proceso de investigación”, señala la doctora en Ciencias Sociales con especialidad en Economía y Gestión por la Universidad Autónoma Metropolitana Unidad Xochimilco.

Este cambio también está obligando a repensar la docencia, porque las formas acostumbradas de enseñar y evaluar ya no garantizan que los estudiantes realmente lean o comprendan.

“En los últimos años me di cuenta de que si tú les pides leer a los estudiantes llegan al siguiente día y te dan un resumen increíble que no lo crees, porque obviamente lo hizo la inteligencia artificial. Entonces decidí cambiar eso. Así que ya no les pido leer en sus casas, porque no tengo la seguridad de que lean. Ahora en la clase nos tomamos media hora para leer todos juntos y después discutimos el texto”, comparte.

El objetivo no es solo transmitir contenidos, sino formar habilidades: “Tenemos que desarrollar habilidades en las personas. Habilidad para sentarte, leer un texto y comprender qué te está diciendo”.

La IA, además, abre nuevas preguntas sobre la sociedad. Amaro menciona, por ejemplo, el uso de estas herramientas como apoyo emocional entre jóvenes.

“Eso refleja algo. ¿Por qué están acudiendo ahí y no a un experto de la salud? Porque a lo mejor no hay uno disponible o porque no tiene recursos para pagarlo. Entonces eso está reflejando en realidad otro tipo de necesidades sociales que no hemos cubierto. Esas son las preguntas que debemos hacer desde las ciencias sociales, más allá de decir si es bueno o malo”, expresa.  

También subraya que ninguna innovación tecnológica puede entenderse en su totalidad sin considerar su impacto social: “Una cosa es desarrollar el algoritmo, desarrollar la capacidad técnica para procesar información, pero en las ciencias sociales vemos qué dilemas éticos hay sobre el uso. Vemos cómo vamos a poder regular los datos y la información que se produce”.

Lejos de competir con las ciencias exactas, las ciencias sociales son esenciales para comprender el mundo digital.

“Yo creo que lo que requerimos es una combinación. Necesitamos trabajar desde la interdisciplina, que un matemático trabaje con un geólogo o con un antropólogo, porque los problemas de la sociedad son muy complejos”, expresa la académica.

Liderar siendo mujer en una estructura desigual

Convertirse en directora implicó enfrentar desafíos que van más allá de lo académico. Amaro reconoce que su edad y su género marcaron su llegada al cargo. “Hubo cierta resistencia, por la combinación de ser joven, mujer y colega”, admite.

Su principal reto ha sido demostrar que el liderazgo no necesita autoritarismo. “No se necesita ser autoritario para ejercer una posición de coordinación, gestión, dirección”, afirma. Sin embargo, la amabilidad también suele malinterpretarse, señala.

En su visión, dirigir no significa imponer, sino construir acuerdos: “Ser directora implica tres cosas: gestionar el conflicto en muchísimos niveles, administrar la escasez y también coordinar equitativamente”.

Pero el desafío no es solo administrativo, también es cultural. Y la universidad, dice, reproduce muchas de las desigualdades y violencias del entorno.

Leer también: Cómo impacta la inteligencia artificial en bibliotecas universitarias

Y éstas se manifiestan en formas muy sutiles, como los micromachismos: “Si hiciste un doctorado, eres doctora igual que los demás, pero te dicen ‘linda’, ‘bonita’, ‘guapa’. ¡Hey! Soy doctora igual que usted. Entonces como por qué nos tratan de una forma diferenciada o piensan que es correcto hacerte comentarios sobre tu persona”.

Para Amaro, estas experiencias forman parte de una violencia estructural que atraviesa la academia.

El futuro exige pensamiento crítico

Frente a estos cambios, cree que el mayor reto de la universidad no es tecnológico, sino formativo. La IA seguirá adelante, pero lo que definirá el futuro será nuestra capacidad para comprender su impacto.

Por eso insiste en la importancia de las ciencias sociales, porque no solo explican el mundo, también ayudan a transformarlo. Entender cómo se produce el conocimiento, quién lo controla y a quién beneficia será clave en los próximos años.

En esa tarea, su apuesta es clara. Se deben formar estudiantes capaces de pensar por sí mismos. Porque, en una era dominada por algoritmos, el verdadero poder estará en la capacidad humana de cuestionar, comprender y decidir, expresa.

Jóvenes Transformando México: ¿en qué consiste el nuevo programa social?