En la última edición del taller anual del Sistema de Información Universitaria (SIU) 2024, tuve la oportunidad de compartir, con no docentes, docentes y autoridades de diversas universidades públicas, sobre las implicaciones éticas, sociales y prácticas que la IA conlleva para la comunidad universitaria.

La IA es un cambio de paradigma de una magnitud superior a la revolución de internet, por lo que las universidades deben adoptar una postura proactiva y estratégicamente planificada sobre cómo integrarla de manera responsable y en beneficio de la misión fundamental de la universidad.

Desentrañando la IA: Más Allá de los Sistemas Expertos

Existe una clara distinción entre las formas más tempranas de IA, basadas en sistemas de reglas predefinidas, y la Inteligencia Artificial contemporánea, fundamentada en el aprendizaje automático (Machine Learning). En este último campo, resalta la sofisticación del aprendizaje profundo, capaz de identificar patrones complejos en grandes volúmenes de datos. Sin embargo, esta potencia viene aparejada de una creciente opacidad en el funcionamiento de los algoritmos, lo que dificulta la comprensión de cómo se toman las decisiones, lo cual plantea desafíos cruciales en términos de transparencia y rendición de cuentas en el contexto universitario.

Paralelos Reveladores: Las Lecciones de la Llegada de Internet

Para contextualizar el impacto potencial de la IA se puede establecer un paralelismo ilustrativo con la introducción de internet en las universidades. Muchos de nosotros recordamos cómo su llegada transformó la gestión, la enseñanza y la investigación, un proceso que requirió tiempo, adaptación y superación de resistencias.

De manera análoga, la integración exitosa de la IA en las universidades demandará una estrategia reflexiva, adaptada a las particularidades de cada institución, y un proceso de “traducción contextualizada” de las herramientas disponibles para asegurar su pertinencia y eficacia en el entorno universitario argentino.

Un Abanico de Posibilidades y Advertencias sobre los Riesgos

Son numerosos los beneficios que la IA podría aportar al ámbito universitario, incluyendo la automatización de tareas administrativas, la reducción de errores en procesos complejos y la disponibilidad de sistemas gestión operativos de manera continua. 

Con respecto a los riesgos inherentes a la implementación de la IA, se destaca la problemática de los sesgos en los datos de entrenamiento, que pueden conducir a la perpetuación e incluso exacerbación de desigualdades existentes en la sociedad. Asimismo, se presentan desafíos en materia de privacidad y seguridad de la información, ante la vasta cantidad de datos que manejan los sistemas de IA.

Un punto central para tener en cuenta es la creciente asimetría de poder entre los usuarios y las grandes corporaciones tecnológicas que dominan el desarrollo y la distribución de la IA, por lo que se hace necesaria la intervención activa del Estado para regular estas dinámicas y garantizar que la IA se utilice en beneficio del bien común y no solo de intereses privados. En este proceso es fundamental el rol de las posturas críticas y científicas de las universidades para acompañar el proceso junto con el Estado. 

El Dato como Eje Central y la Urgencia de una Gobernanza Ética

Es importante revalorizar el papel del dato en la gestión universitaria, incluyendo aquellos datos no estructurados que hasta ahora han presentado mayores desafíos. Sin embargo, la mera acumulación de datos no es suficiente; es imprescindible establecer una sólida gobernanza ética que defina los principios y las normas para su recolección, almacenamiento, procesamiento y uso responsable, garantizando la privacidad y la seguridad de la información de todos los miembros de la comunidad universitaria.

En relación con la opacidad de los algoritmos de IA profunda, se propone la adopción de enfoques de “Inteligencia Artificial Explicable” (XAI), que trasciendan el ámbito puramente técnico y sean comprensibles para todos los actores involucrados en el proceso universitario, desde estudiantes y docentes hasta personal no docente y autoridades. La cuestión de la responsabilidad legal ante decisiones tomadas por sistemas de IA también es un tema crítico, se debe recordar que los marcos normativos requieren la intervención y la supervisión humana en decisiones en el contexto universitario.

Un Llamado a la Acción Colectiva: La Universidad como Protagonista en la Era Digital

La comunidad universitaria tiene que asumir un rol protagónico en este nuevo contexto tecnológico, de no hacerlo de manera ética y colaborativa, se corre el riesgo de seguir intereses particulares, en detrimento del bien común. El futuro de la educación superior dependerá de la capacidad de la universidad pública para aprovechar el poder de la IA de manera ética, inclusiva y centrada en la comunidad, en plena coherencia con sus valores fundacionales de excelencia académica, gratuidad, inclusión y compromiso con el territorio y la sociedad.

Para lograr lo anterior, es necesario un compromiso colectivo que involucre:

• -Educación y capacitación continua de todos los claustros (docentes, no docentes, estudiantes y autoridades) para comprender las potencialidades y los riesgos de la IA.
• -Recolección y gestión responsable de datos, bajo una gobernanza ética clara y transparente, que garantice la privacidad y la seguridad de la información.
• -Abordaje proactivo de las preocupaciones de todos los miembros de la comunidad universitaria y la creación de consensos sobre la forma de integrar la IA.
• -Participación activa de los estudiantes en el debate y la definición de las aplicaciones de la IA en el ámbito educativo.
• -Adaptación reflexiva de los planes de estudio y los procesos administrativos a las nuevas oportunidades y desafíos que plantea la IA.
• -Fomento de talleres de reflexión e intercambio sobre el impacto de la IA en las diversas áreas de la universidad.

La inteligencia artificial no es un destino predeterminado, sino un campo dinámico donde la participación activa y la visión crítica de la universidad pública son esenciales para construir un futuro más justo, equitativo e innovador para toda la sociedad.

Dr. Javier Ignacio García Fronti

Profesor titular FCE-UBA