El inevitable uso de ChatGPT por los estudiantes

La entrevistada es Rafif Srour Daher (Beirut, Líbano,1976), experta en ciencia de datos y vicedecana de la Escuela de Ciencia y Tecnología de IE University, en Madrid. Investiga cómo ampliar los límites del uso de la robótica y la IA y explora nuevas formas de aplicar esta tecnología, así como de enfocar su uso a hacer la sociedad más inclusiva.

Así que, antes de dar por concluida la entrevista, es obligado hacerle unas últimas preguntas ante la inquietud de que esta entrevista forme parte de su propia investigación o de que ChatGPT sea el que esté respondiendo sobre ChatGPT.

¿Responder usando ChatGPT no limita que usted piense por sí misma las respuestas, utilizando razonamientos propios?

ChatGPT no limita tu proceso de pensamiento, por el contrario, ayuda a reforzar lo que sabes y te invita a ser crítico con la información que te genera. Me gusta usarlo porque su respuesta incluye la mayoría de la información disponible con respecto a la pregunta. Es cierto que muchas veces puede inventar cosas, por lo que hay que estar muy atento y confirmar la información que te proporciona.

¿Recomienda entonces a sus alumnos y a los estudiantes, en general, el uso de ChatGPT para hacer sus trabajos?

Debemos enseñar a nuestros estudiantes a usar la herramienta, pero también ser conscientes de sus limitaciones y ser críticos con el resultado que les genera. Por otro lado, nuestros profesores deben de cambiar la forma de evaluar a los alumnos, crear trabajos que ChatGPT no responda fácilmente porque si no lo que les estamos enseñando es a utilizar esta tecnología para hacer el trabajo en su nombre, que no es lo que queremos.

¿Y a partir de qué edad cree que se puede utilizar ChatGPT en la enseñanza?

Definitivamente, a partir de los 16 años.

¿Pero su uso no reducirá su aprendizaje y sus capacidades futuras?

Si se usa de forma correcta, no tenemos que preocuparnos de esa reducción. Aunque con nuestro sistema de evaluación actual, que está basado en memorización, es fácil caer en esta limitación. Podemos utilizar este tipo de herramientas de IA para cambiar nuestros sistemas educativos.

Aclarados estos puntos y, con ellos, que Rafif Srour, ha utilizado ChatGPT como apoyo para recopilar información, pero que sus respuestas han sido luego elaboradas por ella, esta experta explica por qué la ciencia de datos y la IA se han convertido en su pasión. “Por un lado, la transformación de datos en información y su aplicación en la toma de decisiones está revolucionando todos los negocios. Y, por otro, el ritmo al que evoluciona la tecnología encierra muchas promesas para mejorar las condiciones humanas”, asegura con optimismo.

“Somos muy conscientes del riesgo. Es clave enseñar a los estudiantes a atender a los problemas cuando hay datos insuficientes, sesgos en su recopilación y valores atípicos”.

La IA se basa en la capacidad de procesamiento de datos y la toma de decisiones basada en algoritmos matemáticos, imitando así el comportamiento humano. Cuanto más datos usa, más precisa se vuelve. Pero, ¿qué no logra hacer que sí puede hacer el ser humano? “No puede reemplazar completamente la inteligencia humana ni el juicio humano. Y hay tareas que todavía no puede realizar de manera eficiente, como el razonamiento abstracto y creativo, la comprensión emocional, la capacidad de tomar decisiones éticas y morales, y la capacidad de establecer relaciones humanas y comprender el contexto cultural y social. ChatGPT, por ejemplo, a veces usa un lenguaje que suena muy autoritario, utiliza frases repetitivas y hay que verificar varias veces la precisión del texto que genera”.

Aunque, advierte, la IA evoluciona a un ritmo muy acelerado. “Algunos de los desarrollos más recientes y prometedores incluyen la robótica colaborativa y autónoma, que hacen mejorar la funcionalidad actual de los robots. El deep learning, el aprendizaje profundo, ha permitido avances significativos en áreas como la visión por computadora, el procesamiento del lenguaje natural y la toma de decisiones. También la integración de la robótica y la IA con el llamado Internet de las Cosas está permitiendo la creación de sistemas inteligentes conectados que pueden recopilar y analizar grandes cantidades de datos para mejorar la toma de decisiones y su eficiencia.

Pero esta investigadora recalca que, paradójicamente, uno de los principales objetivos de la IA no es sustituir a las personas, sino mejorar sus vidas: “Sin duda tiene el potencial de hacerlo en una gran variedad de campos, como la salud, la educación, el trabajo y el bienestar. Hace tiempo que la IA se utiliza en el diagnóstico y tratamiento de enfermedades, por ejemplo, y, en temas educativos, puede personalizar la educación para satisfacer las necesidades individuales de cada estudiante, así como ayudar a los profesores a identificar áreas donde los estudiantes necesitan más ayuda”.

“Es necesario que los gobiernos establezcan marcos regulatorios sobre la IA que protejan a los ciudadanos de la discriminación, la falta de privacidad y el desempleo”.

Volviendo a ChatGPT, la compañía que lo ha creado, OpenAI, acaba de estrenar GPT-4, que es una versión más precisa, razona mejor y comprende desde palabras a imágenes. ¿Cuál será el próximo paso? “Creo que seremos testigos de un gran lanzamiento en modelos generativos—texto, vídeos y audios— que serán más precisos y concisos que los anteriores”.

El debate ético es inevitable sobre la IA y sus consecuencias para la sociedad.  La cuestión es si se investiga teniendo presente la ética de lo que se puede llegar a hacer con lo que se está creando. “En todos nuestros proyectos, somos muy conscientes del riesgo que implica el uso de datos en los algoritmos de aprendizaje automático”, asegura la experta. “Por ello, es clave enseñar a nuestros estudiantes cómo recopilar datos representativos y limpios y estar muy atento a los problemas que puedan surgir cuando hay datos insuficientes, valores atípicos y sesgos en la recopilación de datos. Y, con el auge de los datos generados artificialmente por una IA, surgen problemas cuando se intentan validar con datos reales”, es decir, no producidos por una IA.

Entre las nuevas profesiones que pueden surgir a corto plazo de todo este avance, Rafif Srour destaca la de ingeniero de inteligencia artificial. Y añade las de experto en ética de la inteligencia artificial, desarrollador de aplicaciones de IA y gerente de proyectos de IA. “Los ingenieros de ‘software’ tendrán una gran demanda para desarrollar herramientas de procesamiento de datos de código bajo o sin código y productos integrales de IA”, añade.

“Nuestros profesores deben de cambiar la forma de evaluar a los alumnos, crear trabajos que ChatGPT no responda fácilmente”.

Y anima a los estudiantes y muy especialmente a las estudiantes (“que aportan diversidad y creatividad a estos campos”) a que apuesten sin miedo por las carreras STEM (que son las relacionadas con la ciencia, tecnología, ingeniería y matemáticas): “Estamos en un momento muy crítico de la historia. La tecnología avanza a un ritmo exponencial y está afectando a todos los aspectos de nuestras vidas. Estudiar cualquier campo relacionado con STEM es un camino directo a los trabajos más prometedores del mundo. No se me ocurre ningún campo de la sociedad en el que no se esté aplicando la tecnología, por lo que no hay límite para lo que pueda hacer un estudiante en el futuro con un título en STEM”.