IA generativa en las aulas: del hype tecnológico a su impacto real

María del Mar Sánchez Vera

Profesora Titular del Departamento de Didáctica y Organización Escolar de la Facultad de Educación de la Universidad de Murcia. Miembro del Grupo de Investigación de Tecnología Educativa.

La IA lleva mucho tiempo entre nosotros y también en contextos educativos. Pero es innegable que en el debate público y social se produjo un punto de inflexión en 2020. En noviembre de ese año GPT3.5 fue lanzado al público. La herramienta consiguió 100 millones de usuarios a los 60 días de que fuera publicada. Desde su origen, una de las primeras preocupaciones ha sido el posible impacto de esta herramienta, y todas las de IA generativa que han ido lanzándose posteriormente, en la educación. Entre otras cosas, porque la dificultad de la detección del contenido generado por los chatbots de IA pone sobre la mesa debates acerca del plagio académico (Díaz-Arce, 2023). Esto implica que pone en cuestionamiento los procesos de evaluación tradicionalmente utilizados (García Peñalvo, 2024). Pero el boom no viene justificado solo por estos cuestionamientos educativos. La gran proliferación de herramientas plantea, bien utilizadas, interesantes posibilidades para el diseño de recursos educativos (Sánchez-Vera y González-Calatayud, 2024), y pone sobre la mesa dilemas éticos que hace tiempo deberíamos haber abordado, como el impacto ambiental, la gestión de los datos personales y la gestión de derechos de los creadores cuyas obras nutren el aprendizaje automático (Franganillo, 2023).

Todos estos planteamientos conllevan que durante estos dos años se hayan sucedido un aumento de los congresos, cursos y artículos sobre Inteligencia Artificial y educación, concretamente relacionados con la IA generativa. Resulta interesante que nos preguntemos qué ha pasado durante estos dos años, y si tras el hype inicial realmente se ha producido un cambio en la educación.

Lo primero que tenemos que analizar, en este sentido, es cómo se están utilizando. El estudio realizado por Khoso et al (2023) encontró que estas herramientas de IA generativa se utilizan por parte del alumnado de Grado para tomar notas, redactar tareas, planificar lecciones y fomentar la creatividad. Aunque con menor frecuencia que los estudiantes, los docentes también emplean estas herramientas, principalmente crear recursos educativos.

GAD3 ha realizado otro estudio (https://empantallados.com/ia/#lp-pom-block-45) sobre el impacto de la inteligencia artificial en la educación en España. Según el informe, el 82% de los estudiantes, el 73% del profesorado y el 69% de los padres y madres han utilizado herramientas de IA en alguna ocasión. Los chatbots, como ChatGPT, son los más empleados, seguidos por asistentes virtuales como Siri o Alexa. Los datos muestran que los estudiantes son los principales usuarios de estas tecnologías. También se encuentra que uno de los principales usos que se encuentra es utilizarlos para buscar información. Y estos datos son interesantes, porque, por un lado nos hacen ver que los estudiantes son los que están aprendiendo, muchas veces de manera autónoma, el uso de estas herramientas, por otro lado, utilizar herramientas como ChatGPT en lugar de motores de búsqueda tradicionales conlleva algunos riesgos. Recordemos que son modelos de lenguaje y que su diseño conversacional prioriza la fluidez sobre la precisión, lo que dificulta la verificación de datos y puede plantear información que no sea cierta y que no podemos contrastar.

Otros estudios (Farhi et al, 2023) indican que los estudiantes hacen una valoración positiva de herramientas como chatGPT. En general consideran que mejora su productividad y fomenta la creatividad pero también plantean inquietudes y dilemas respecto a su integración de forma ética a la hora de hacer trabajos y deberes.

En algunos primeros análisis hemos encontrado que las herramientas conversacionales son las más empleadas, pero también revelan preocupaciones sobre la formación adecuada de los docentes y el posible plagio. La inteligencia artificial se percibe como una herramienta con potencial para mejorar la enseñanza y el aprendizaje (Sánchez-Vera, 2023).

Un estudio de Lehmann et al (2024) indica que los estudiantes que utilizan los LLMs como tutores personales, conversando sobre el tema y solicitando explicaciones, se benefician de su uso. Sin embargo, el aprendizaje se ve perjudicado en los estudiantes que dependen en exceso de los LLMs para resolver ejercicios prácticos, sin invertir suficiente esfuerzo mental propio. Aquellos que nunca han utilizado LLMs antes son particularmente propensos a este comportamiento adverso.

Según el estudio de Habib et al. (2024), herramientas como ChatGPT 3.5 demostraron ser útiles para mejorar la capacidad de generar ideas de manera fluida. Estas tecnologías de IA también tienen el potencial de ampliar la variedad y el enfoque de las ideas de los estudiantes, proporcionando perspectivas diversas y fomentando una mayor flexibilidad creativa. Sin embargo, algunos participantes manifestaron inquietudes respecto a que el uso de la IA pudiera dominar el proceso de pensamiento, lo que podría limitar el desarrollo de ideas propias. El estudio sugiere que estas herramientas resultan especialmente beneficiosas para aquellos con habilidades básicas ya consolidadas en resolución de problemas. En contraste, pueden no ser tan efectivas para quienes están en etapas iniciales de desarrollo del pensamiento divergente. Además, aunque la IA puede enriquecer el abanico de ideas disponibles, uno de los desafíos identificados fue la tendencia a ofrecer respuestas demasiado genéricas. También se destacó que un uso excesivo de la IA podría encasillar el pensamiento de los estudiantes, en lugar de estimular nuevas conexiones.

En este sentido, Baiddo y Owusu (2023) indican una serie de riesgos que podemos encontrar en educación al hacer uso de estas herramientas de IA de tipo generativo.

Algunos estudios que plantean buenos resultados académicos al incorporar chatGPT pueden tener una cara B. Bastani et al (2024) encontraron que el acceso a GPT4 parece mejorar el rendimiento de los estudiantes, pero cuando se retira el acceso los estudiantes rinden peor que aquellos que nunca tuvieron acceso al mismo. Parece que el análisis de los estudios actuales nos permite concluir que hay una serie de habilidades fundamentales que desarrollar previamente, o de forma paralela, a la introducción de la IA generativa, y en este sentido, el papel del docente es primordial.

Resulta interesante percibir que el enfoque con el que se está utilizando la IA responde a una perspectiva en la que la IA se utiliza como apoyo para realizar tareas que ya se venían trabajando anteriormente, pero no se percibe un cambio sustancial en el planteamiento de las propias tareas en sí. El enfoque que se plantea en muchos estudios es cómo usamos la IA para hacer los trabajos escritos, pero no cuestionamos por qué, cómo y cuándo deberíamos pedir ese trabajo. En este sentido, Resnick (2024) comenta que la implementación actual la tecnología muchas veces refuerza modelos educativos tradicionales que limitan la creatividad, con un enfoque que parte de problemas cerrados que el estudiante ha de resolver. Sin embargo, comenta el autor que la IA generativa podría utilizarse para fomentar el aprendizaje creativo y basado en proyectos. Y la cuestión es que esto es un enfoque que implica entender trabajar con la tecnología de manera diferente, en definitiva es un planteamiento más didáctico que tecnológico (Martínez, 2017).

Tras este primer análisis, resulta interesante ver el enfoque que abordan algunas instituciones oficiales y asociaciones del ámbito. Durante estos dos años, se han publicado gran cantidad de informes, guías y recomendaciones. Resulta comprensible, porque, cuando llega una disrupción de este tipo, lo primero que se hace por parte de muchas instituciones es analizar el impacto potencial, identificar riesgos y oportunidades, y ofrecer recomendaciones para su integración.

Destacamos algunos informes interesantes:

• Informe del Consenso de Beijing: un marco para la IA en la educación, de la UNESCO. (https://unesdoc.unesco.org/ark:/48223/pf0000368303). Este documento, elaborado por la UNESCO en 2019, establece un conjunto de principios y directrices para la implementación ética y efectiva de la inteligencia artificial en los sistemas educativos a nivel mundial. En él se destaca la importancia de centrar la IA en el ser humano, garantizar la ética y la responsabilidad en su desarrollo, promover la equidad y la inclusión, y fomentar la colaboración internacional. El documento ofrece recomendaciones clave para gobiernos, instituciones educativas y desarrolladores de tecnología, con el fin de asegurar que la IA se utilice de manera que beneficie a todos los estudiantes y contribuya al logro de los Objetivos de Desarrollo Sostenible.
• Guía para el uso de la IA generativa en educación e investigación. Tras el boom de la IA generativa, la UNESCO plantea una serie de recomendaciones globales acerca de su uso en educación. La guía propone pasos clave para regular el uso de la inteligencia artificial generativa, enfatizando la protección de la privacidad de datos y estableciendo límites de edad para interacciones autónomas con estas plataformas. Recomienda un enfoque centrado en el ser humano, adaptado a la edad, para validar éticamente y diseñar pedagógicamente estas herramientas. También aborda cuestiones éticas y políticas controvertidas relacionadas con la IA, tratando de identificar elementos que ayuden a garantizar su uso ético y seguro en educación e investigación. También plantea medidas para desarrollar marcos regulatorios.
• Informe de la Oficina C del Congreso de los Diputados sobre IA y educación. Este informe fue realizado por la oficina de Ciencia y Tecnología del Congreso de los Diputados de España con el planteamiento de recoger la evidencia científica disponible y la opinión de personas expertas en la temática con la idea de acercar la investigación a la toma de decisiones política y a los diputados y diputadas del Congreso. Este informe analiza cómo la inteligencia artificial, especialmente la generativa, puede integrarse en el sistema educativo español. Aborda las oportunidades y los riesgos asociados con su uso en las aulas, desde la personalización del aprendizaje y la mejora de procesos educativos, así como preocupaciones relacionadas con la privacidad, los sesgos algorítmicos y aspectos éticos que debemos tener en cuenta. El documento se fundamenta en una revisión exhaustiva de 209 estudios y consultas a 19 personas expertas de diversos campos, incluyendo ciencias sociales, ingeniería y tecnología.
• Informe de la CRUE. El informe de la Conferencia de Rectores de las Universidades Españolas (La inteligencia artificial generativa en la docencia universitaria: Oportunidades, desafíos y recomendaciones) analiza cómo la inteligencia artificial generativa (IAG) puede transformar la educación superior, destacando sus oportunidades, desafíos e implicaciones éticas. Su objetivo es servir como guía para la implementación responsable de esta tecnología en las universidades. Destaca los riesgos pero también las oportunidades que plantea el boom de la IA generativa actual y establece que su implementación requiere una planificación cuidadosa, formación adecuada y marcos éticos sólidos para maximizar beneficios y minimizar riesgos.
• Guía “los algoritmos a examen: ¿por qué IA en educación? de la Fundación Bofill (https://fundaciobofill.cat/uploads/docs/q/z/z/dzp-e40_guia_digital_040123_algoritmos.pdf). La guía examina los beneficios y riesgos de aplicar la IA en contextos educativos, proporcionando ejemplos de su uso en centros de diversas comunidades autónomas. Además, aborda consideraciones éticas y legales, destacando la importancia de un enfoque pedagógico y ético en la integración de estas tecnologías. El documento también incluye recomendaciones de políticas públicas para una adopción responsable de la IA en la educación y ejemplos de uso en las aulas.
• Informe de la asociación EDUTEC (https://edutec.es/wp-content/uploads/2024/11/Edutec-INFORME-IA-MAQUETADO-FINALv2.pdf). La Asociación para el desarrollo de la Tecnología Educativa (EDUTEC) lo ha presentado en noviembre de 2024. En él han participado diferentes miembros de la asociación y la información se recogió de manera sistemática. El informe aborda el impacto de la IA de manera específica en distintas etapas educativas y subraya la importancia de introducir la alfabetización en IA como parte fundamental del currículo educativo, para garantizar que el alumnado adquiera competencias tecnológicas básicas, y también para fomentar el pensamiento crítico y ético necesario para interactuar con estas herramientas de forma responsable.

Las recomendaciones institucionales son importantes porque nos plantean un marco general sobre el que aterrizar, pero quizás aún existe una ausencia clara de políticas concretas que posibiliten los cambios didácticos que implica poder utilizar de forma adecuada estas tecnologías.

En definitiva, la integración de la IA en las aulas no depende únicamente de las propuestas tecnológicas, ya que está profundamente influenciada por las decisiones didácticas y organizativas que se tomen para implementarla. Steele (2023) subraya que el verdadero impacto de estas herramientas radica en cómo las integramos en los entornos educativos, destacando la necesidad de fomentar el pensamiento crítico, la creatividad y el uso ético. La autora identifica tres amenazas principales que la IA generativa plantea a los sistemas educativos actuales: problemas de medición que cuestionan la capacidad de evaluar el aprendizaje de manera significativa, la falta de precisión en la información proporcionada por estas herramientas y el riesgo que se está estudiando acerca de que un posible mal uso perjudicara al desarrollo de destrezas importantes.

Para abordar estas cuestiones, es clave que las instituciones educativas valoren los beneficios, los riesgos, pero también las cuestiones estructurales y organizativas, y que no olviden la importancia de equipos multidisciplinares en la toma de decisiones que tengan en cuenta los criterios didácticos. También resulta fundamental profundizar en la IA desde el pensamiento computacional, ya que esto ayudará al alumnado a entender cómo funciona la IA y a desarrollar habilidades para descomponer problemas, analizar datos y crear soluciones éticas y sostenibles. Algo fundamental para los retos de la educación de este siglo.

Referencias

Baidoo, D. and Owusu, L. (2023). Education in the Era of Generative Artificial Intelligence (AI): Understanding the Potential Benefits of ChatGPT in Promoting Teaching and Learning. http://dx.doi.org/10.2139/ssrn.4337484

Bartolomé Pina, A., Pérez Garcias, A. y Prendes-Espinosa, M. P. (2024). Informe EDUTEC sobre Inteligencia Artificial y Educación. https://edutec.es

Bastani, Hamsa and Bastani, Osbert and Sungu, Alp and Ge, Haosen and Kabakcı, Özge and Mariman, Rei, Generative AI Can Harm Learning (July 15, 2024). The Wharton School Research Paper. http://dx.doi.org/10.2139/ssrn.4895486

Cruz Argudo, F., García Varea, I., Martínez Carrascal, J. A., Ruiz Martínez, A., Ruiz Martínez, P. M., Sánchez Campos, A., & Turró Ribalta, C. (2024). La inteligencia artificial generativa en la docencia universitaria: Oportunidades, desafíos y recomendaciones. CRUE Universidades Españolas. https://www.crue.org/wp-content/uploads/2024/03/Crue-Digitalizacion_IA-Generativa.pdf?x58389&x58389

Díaz-Arce, D. (2023). Plagio a la Inteligencia Artificial en estudiantes de bachillerato: un problema real. Revista Innova Educación, 5(2), 108-116. https://doi.org/10.35622/j.rie.2023.02.007

Habib, S., Vogel, T., Anli, X. & Thorne, E. (2024). How does generative artificial intelligence impact student creativity? Journal of Creativity, 34(1), 100072. https://doi.org/10.1016/j.yjoc.2023.100072

Hernando Calvo, A., Municio Zúñiga, A., Vázquez Gutiérrez, A., Gardó Huerta, H., & Martínez Romero, H. (2023). Los algoritmos a examen: ¿Por qué IA en educación? Fundació Jaume Bofill. https://fundaciobofill.cat/uploads/docs/q/z/z/dzp-e40_guia_digital_040123_algoritmos.pdf

Farhi, F., Jeljeli, R., Aburezeq, I., Dweikat, F. F., Al-shami, S. A., & Slamene, R. (2023). Analyzing the students' views, concerns, and perceived ethics about ChatGPT usage. Computers and Education: Artificial Intelligence, 4, 100180. https://doi.org/10.1016/j.caeai.2023.100180

Franganillo, J. (2023). La inteligencia artificial generativa y su impacto en la creación de contenidos mediáticos. Methaodos: revista de ciencias sociales, 11(2). https://doi.org/10.17502/mrcs.v11i2.710  

García-Peñalvo, F. J. (2024). Cómo afecta la inteligencia artificial generativa a los procesos de evaluación. Cuadernos de Pedagogía. 549. https://produccioncientifica.usal.es/documentos/65a829d3aa5bde0b41d48f37

Khoso, F. J., Ali, N., & Aslam, N. (2023). Use of Chat-GPT and AI Tools by Undergraduates: Students and Teachers’ Perspective. SPRY Contemporary Educational Practices, 2(2). https://doi.org/10.1234/scep.v2i2.2023

Lehmann, Matthias and Cornelius, Philipp B. and Sting, Fabian J., (2024). AI Meets the Classroom: When Does ChatGPT Harm Learning?  http://dx.doi.org/10.2139/ssrn.4941259

Martínez Sánchez, F. (2016). Sentado en el andén. RiiTE Revista interuniversitaria de investigación en Tecnología Educativa. https://doi.org/10.6018/riite/2016/258131

Oficina de Ciencia y Tecnología del Congreso de los Diputados (Oficina C). (204) Informe C. Inteligencia artificial y educación. www.doi.org/10.57952/hqct-6d69

Resnick, M. (2023). Generative AI and creative learning: Concerns, opportunities, and choices. En An MIT Exploration of Generative AI. MIT Press. https://mres.medium.com/ai-and-creative-learning-concerns-opportunities-and-choices-63b27f16d4d0

Sánchez Vera, M. del M. (2024). La inteligencia artificial como recurso docente: usos y posibilidades para el profesorado. Educar, 60(1). https://doi.org/10.5565/rev/educar.1810

Sánchez Vera, M. del M., & González Calatayud, V. (2024). La IA generativa como copiloto en el diseño de recursos educativos. Padres Y Maestros / Journal of Parents and Teachers, (398), 12–18. https://doi.org/10.14422/pym.i398.y2024.002

Steele, J. L. (2023). To GPT or not GPT? Empowering our students to learn with AI. Computers and Education: Artificial Intelligence, 5, 100160. https://doi.org/10.1016/j.caeai.2023.100160

UNESCO (2019). Beijing consensus on artificial intelligence and education. https://unesdoc.unesco.org/ark:/48223/pf0000368303

UNESCO (2024). Guidance for generativa AI in education and research. https://www.unesco.org/es/articles/guia-para-el-uso-de-ia-generativa-en-educacion-e-investigacion