JENUI_2023_014

Vista previa del material en texto

ChatGPT: reflexiones sobre la irrupción de la inteligencia
artificial generativa en la docencia universitaria
Luis Jiménez Linares1, Julio Alberto López-Gómez2, José Ángel Martín-Baos1,
Francisco P. Romero1, Jesus Serrano-Guerrero1
1Escuela Superior de Informática. 2Escuela de Ingeniería Minera e Industrial de Almadén
Universidad de Castilla la Mancha
Luis.Jimenez@uclm.es, JulioAlberto.Lopez@uclm.es, JoseAngel.Martin@uclm.es
FranciscoP.Romero@uclm.es, Jesus.Serrano@uclm.es,
Resumen
En los últimos años, el desarrollo de las técnicas de in-
teligencia artificial generativa está alcanzando un gra-
do de madurez que era impensable hace una década.
Estos avances han dado lugar a herramientas que per-
miten generar imágenes a partir de descripciones en
lenguaje natural, realizar transcripciones y traduccio-
nes automáticas en tiempo real o interactuar con un
asistente conversacional capaz de generar documentos
formales y técnicos. A partir de un análisis DAFO, en
este artículo se recogen una serie de reflexiones sobre
ChatGPT, un chatbot que en noviembre de 2022 revo-
lucionó el mundo de la inteligencia artificial generativa
resolviendo problemas matemáticos, generando códi-
go fuente, creando cuentos o elaborando noticias e in-
formes técnicos. ¿Qué desafíos supone la irrupción de
herramientas como ChatGPT en la docencia universita-
ria? ¿Qué oportunidades brinda para mejorar la calidad
de la docencia? ¿Estamos ante un punto de inflexión en
la educación tal y como la conocemos?
Abstract
In recent years, the development of generative artificial
intelligence techniques is reaching a level of maturity
that was unthinkable a decade ago. These advances ha-
ve led to the development of new tools that can genera-
te images from natural language descriptions, perform
automatic transcriptions and translations in real time,
or interact with a conversational assistant capable of
generating formal and technical documents. Based on a
SWOT analysis, this article contains a series of reflec-
tions on ChatGPT, a chatbot that, in November 2022,
has revolutionised the world of generative artificial in-
telligence by solving mathematical problems, genera-
ting source code, creating stories and producing news
and technical reports. What challenges does the emer-
gence of tools such as ChatGPT pose for university tea-
ching? What opportunities does it offer to improve the
quality of lectures? Are we facing a turning point in
education as we know it?
Palabras clave
Inteligencia artificial generativa, ChatGPT, Análisis
DAFO, Proceso de enseñanza y aprendizaje, Tecnolo-
gía educativa.
1. Motivación
Día a día, la proliferación de modelos de inteligen-
cia artificial cada vez más sofisticados va integrándose
en las actividades cotidianas de cualquier persona en
particular y de la sociedad en general. Desde los ámbi-
tos industrial o laboral y hasta el ámbito personal, pa-
sando por la educación o el ambiente doméstico, estos
modelos son cerebro y motor de multitud de sistemas
que utilizamos con gran asiduidad. Algunos ejemplos
son los filtros antispam que discriminan el correo no
deseado de nuestros buzones, los asistentes de voz que
permiten automatizar tareas domésticas, los dispositi-
vos que monitorizan nuestro rendimiento físico o los
sistemas de recomendación que se anticipan a nuestras
necesidades para ofrecernos un producto o completar
una consulta que hacemos a un buscador [1].
Cada nuevo avance en inteligencia artificial ha traí-
do siempre consigo el recelo de los usuarios y el debate
de expertos (no solo en tecnología, sino también en so-
ciología, pedagogía y otras disciplinas) sobre las con-
secuencias de estos avances, sus usos más adecuados
y aquellos indebidos así como las implicaciones éticas
que derivan de su implantación en contextos reales. A
pesar de ello, el avance de estas técnicas y su integra-
ción en nuestras actividades productivas, económicas,
sociales y personales ha sido imparable y ha reportado
multitud de beneficios a todos los niveles.
Actas de las Jenui, vol. 8. 2023.
Páginas: 113-120
113
En los últimos años, la investigación en inteligencia
artificial ha tenido un punto de inflexión. Los descu-
brimientos de nuevas arquitecturas de aprendizaje au-
tomático, concretamente de aprendizaje profundo, uni-
dos a la ingente cantidad de datos e información que se
ha recopilado para entrenar estos modelos y las gran-
des capacidades de computación paralela, distribuida
y supercomputación, han propiciado la irrupción de la
inteligencia artificial generativa. Los modelos que sub-
yacen en este enfoque generativo permiten, a partir de
entradas en lenguaje natural, generar transcripciones o
traducciones automáticas, crear imágenes a partir de
descripciones e incluso interactuar con los usuarios a
través de asistentes conversacionales capaces de esta-
blecer un diálogo coherente y fluido con independencia
temática y registrando el contexto de la conversación.
En esta línea, recientemente han aparecido herra-
mientas que permiten generar imágenes a partir de des-
cripciones textuales. Por ejemplo, el laboratorio de in-
vestigación Midjourney1 fundado por David Holz, co-
fundador de Leap Motion, ha elaborado una de las he-
rramientas más utilizadas en la actualidad para este fin.
Se trata de un software de código abierto liberado en
2022, disponible vía web y cuyos algoritmos han su-
frido diferentes mejoras. En noviembre de 2022, se li-
beró la cuarta iteración o versión de sus algoritmos.
Otro software muy popular es StableDifussion2. Esta
herramienta, que también fue liberada en 2022, pue-
de utilizarse no solo para generar imágenes a partir de
texto, sino también para introducir elementos visuales
en imágenes ya generadas (outpainting) o para restau-
rar imágenes mejorando su calidad (inpainting). Por
último, Dall-e23, propiedad de la empresa OpenAI4,
es otro de los programas de inteligencia artificial más
utilizados para la generación de imágenes a partir de
texto. Esta herramienta es capaz de generar imágenes
realistas así como de objetos que no existen en la reali-
dad. Con capacidades similares a las de StableDifu-
sison, Dall-e2 es capaz de generar imágenes realistas
como si de una pintura se tratase e incluso de crear
nuevos emojis. En los últimos meses, estas tres herra-
mientas han sido un tema recurrente en los medios de
comunicación [4], lo cual ha generado un mayor cono-
cimiento acerca de ellas por parte de la sociedad.
Después de la aparición de todas las herramien-
tas anteriores, en noviembre de 2022, OpenAI liberó
ChatGPT y en solo una semana fue utilizado por más
de un millón de personas [7]. ChatGPT es un asisten-
te conversacional o chatbot desarrollado mediante téc-
nicas de inteligencia artificial generativa. Es accesible
vía web y en la actualidad permite elaborar trabajos
académicos e informes técnicos, resolver problemas
1https://midjourney.com
2https://stablediffusionweb.com
3https://openai.com/dall-e-2/
4https://openai.com
matemáticos, generar y depurar código fuente, redactar
documentos jurídicos e incluso crear historias y cuen-
tos.
La aparición de estas herramientas basadas en inte-
ligencia artificial generativa está trayendo consigo un
ardiente debate sobre sus ventajas, pero también so-
bre las consecuencias que podrían derivarse de un uso
incorrecto o inapropiado. Sin lugar a dudas, las capa-
cidades de estas herramientas trascienden del aprendi-
zaje clásico de datos y permiten crear nueva informa-
ción a partir de la existente. Hasta ahora, el término
creatividad era aplicable solo a razonamientos huma-
nos. Desde hace un año, herramientas como StableDi-
fussion permiten generar imágenes creativas a partir de
las entradas de los usuarios y otras como ChatGPT res-
ponden a preguntas filosóficas y existenciales.
El debate sobre los posibles usos menos apropia-
dos de ChatGPT en la docencia universitaria no se
ha hecho esperar, especialmente en lo que se refiere
a la redacción de trabajos académicos. ¿Puede incluir-
se ChatGPT como referencia parala elaboración de un
trabajo académico? ¿Es lícito el uso de ChatGPT para
redactar un ensayo de un trabajo universitario? ¿Puede
incluirse ChatGPT como coautor de un trabajo acadé-
mico o de investigación? En este artículo se reportan
una serie de reflexiones sobre las ventajas, inconve-
nientes, desafíos y oportunidades que ofrece ChatGPT
en la docencia universitaria. Para exponer estas refle-
xiones con formalidad y rigor, se ha utilizado el análi-
sis DAFO como metodología para dar estructura y or-
den a estas reflexiones.
El resto del artículo se estructura de la siguiente for-
ma: en la sección 2 se describen los fundamentos tec-
nológicos sobre los que se sustenta ChatGPT. En la
sección 3, se realiza un análisis DAFO de esta herra-
mienta a partir de una serie de reflexiones. Finalmente,
la sección 4 describe las principales conclusiones ex-
traídas de estas reflexiones y deja algunas preguntas
abiertas para los lectores.
2. ChatGPT: el origen
ChatGPT es un modelo de procesamiento del len-
guaje natural desarrollado por OpenAI que ha sido en-
trenado en un gran corpus de datos de conversaciones
para mejorar su capacidad de comprender y generar
lenguaje en un contexto de diálogo.
En 2014, Ilya Sutskever, Oriol Vinyals y Quoc V. Le
presentaron en la Twenty-eighth Conference on Neu-
ral Information Processing Systems (NeurIPS2014) un
póster con su trabajo titulado Sequence to sequence
learning with neural networks [8]. En él introducían
un modelo, basado en redes neuronales LSTM (Long
Short-Term Memory), para el aprendizaje de secuen-
cias de elementos sin conocimiento previo de la es-
114 Actas de las Jenui, vol. 8. 2023. Ponencias
A B C <EOS>
X Y ZW <EOS>
X Y ZWA B C <EOS>
X Y ZW <EOS>
X Y ZW
Figura 1: Desenrollado del modelo LSTM para la tra-
ducción de la entrada ABC a la salida WXYZ
tructura de dicha secuencia. El método propuesto es-
taba compuesto por un codificador, que trasladaba una
secuencia de ítems de entrada a un dominio latente de
dimensionalidad fija, y un decodificador de dicho do-
minio que, activado, trasladaba de forma recurrente su
contenido a la secuencia de ítems de salida como mues-
tra la Figura 1.
En términos generales estos modelos del lengua-
je, fundamentados en arquitectura de redes profun-
das, tratan de estimar la probabilidad condicional
p(y1, . . . , yT ′ |x1, . . . , xT ) donde las longitudes de las
secuencias T’ y T pueden ser distintas. La arqui-
tectura se basa en un codificador de la secuencia
de entrada a un vector o estado interior oculto. Es-
ta codificación en un vector puede representarse for-
malmente como CODLSTM (x1, . . . , xT ) = v. Una
vez obtenido el vector oculto, éste es descodifica-
do de forma recurrente, de acuerdo con la expresión
DECtLSTM (v
t−1, DECt−1LSTM ). Así, estos modelos
son capaces de transformar la probabilidad condicio-
nal buscada como indica la Ecuación (1).
p(y1, . . . , yT ′) = ⨿T
′
t=1p(yt|v, y1, . . . , yt−1). (1)
Este tipo de modelos han sido mejorados median-
te el uso de transformers [12], una arquitectura de red
neuronal que es capaz de determinar influencias y re-
laciones entre los ítems de la secuencia de entrada, así
como entre los ítems de la secuencia de salida. Todas
estas relaciones de dependencias posicionales son ana-
lizadas y obtenidas mediante las denominadas funcio-
nes de atención que desarrollan en su arquitectura los
transformers. La Figura 2 muestra de forma esquemá-
tica la arquitectura de un transformer.
En 2018, la empresa OpenAI presentó su modelo
de lenguaje natural denominado GPT (Generative Pre-
training Transformer) [6], cuya arquitectura se muestra
en la Figura 3. En este trabajo, Alec Radford y com-
pañía desarrollaron un modelo del lenguaje basado en
transformers; pero con la peculiaridad de que en su en-
trenamiento introdujeron un proceso de aprendizaje su-
pervisado para tres tareas concretas: deducir a partir de
premisas, evaluar similitudes de textos y responder a
preguntas sobre el texto y el sentido común. En 2019,
tras aumentar significativamente el corpus que servía
de aprendizaje, así como el tamaño del modelo que pa-
só de los 1,5 millones de parámetros de GPT a 1500
millones, OpenAI liberó GPT-2. Con este nuevo mo-
Figura 2: Arquitectura de un transformer. Figura ex-
traída de [12]
delo aumentaron de forma sustancial las capacidades
de GPT para generar texto coherente, traducir y razo-
nar en diferentes contextos, así como la capacidad de
generar código y resúmenes con mayor fluidez. Este
proceso de mejora continuó hasta que en 2020 se liberó
GPT-3, que cuenta con 175 mil millones de parámetros
y se ha convertido en uno de los modelos del lenguaje
más potentes y completos.
El uso público de GPT-3 fue planteado por OpenAI
mediante la publicación de un API de acceso y una
interfaz web rudimentaria, no teniendo la difusión es-
perada tras su publicación. Esto encaminó a OpenAI
a redefinir completamente la interacción con su mo-
delo e incorporó como objetivo para el entrenamiento
fino la interacción de los usuarios con el chat. Gracias
a ello se generó un dataset de entrenamiento y some-
tió a su nuevo modelo GPT-3.5 al aprendizaje super-
visado clásico de los modelos GPT’s con un aprendi-
zaje por refuerzo supervisado por humanos. Finalmen-
te, en el año 2022, ChatGPT es liberado y hoy es po-
sible interactuar con él de forma gratuita a través de
https://openai.com/blog/chatgpt/.
3. Reflexiones: análisis DAFO
Un análisis DAFO, también conocido como FODA,
es una herramienta de planificación estratégica que se
utiliza para evaluar la situación actual de una organi-
zación o proyecto. Un DAFO es una herramienta muy
valiosa para la toma de decisiones estratégicas y pa-
ra ayudar a las organizaciones a establecer un plan de
Jiménez et al.: ChatGPT: Reflexiones naturales sobre inteligencias artificiales 115
Figura 3: Arquitectura de transformer utilizada en GPT y las entradas utilizadas para los diferentes objetivos.
Figura extraída de [6]
acción claro y efectivo. Esta técnica consiste en identi-
ficar cuales son las Debilidades, Amenazas, Fortalezas
y Oportunidades (de ahí sus siglas) del objeto bajo es-
tudio y, en base a ello, desarrollar estrategias que per-
mitan determinar cuales son las ventajas competitivas
de este en función de las características propias y del
entorno. En este trabajo, el análisis DAFO es utiliza-
do para reflexionar acerca de la herramienta ChatGPT
y las reflexiones propuestas pueden ser aprovechadas
por cualquier agente de la comunidad educativa, espe-
cialmente por el profesorado.
Por un lado, las fortalezas son las capacidades com-
petitivas o recursos valiosos de los que se dispone al
usar la herramienta. Una debilidad, a su vez, se define
como un factor que hace vulnerable a la herramienta o
que la coloca en una posición débil. El estudio conjun-
to de fortalezas y debilidades recibe el nombre de aná-
lisis interno. Esto es así, porque en ambas dimensiones
se analizan aspectos inherentes del objeto de estudio.
Por otra parte, las oportunidades son elementos exter-
nos a nuestro control que pueden representar posibili-
dades de crecimiento o mejora con el uso de la herra-
mienta. Finalmente, las amenazas son factores negati-
vos no controlables y que pueden causar problemas. El
estudio conjunto de oportunidades y amenazas recibe
el nombre de análisis externo, ya que en él se identi-
fican factores externos y no controlables que pueden
tener un impacto positivo o negativo en el objeto de es-
tudio.
Una vez analizadas las cuatro dimensiones, se ela-
bora una matriz que resuma todos los aspectos identi-
ficados y finalmente se procede a su evaluación [5]. La
Figura 4 muestra la matriz DAFO obtenida tras anali-
zar el uso de la herramienta ChatGPT en la docencia
universitaria. A continuación, la siguientes secciones
exponen las reflexiones propuestas por los autores en
cada uno de los cuadrantes del DAFO.
3.1. Debilidades
La revolución originada por ChatGPT desde que fue
liberado pareciera indicar que son pocas o más bienninguna las debilidades que presenta este modelo, de
más de ciento setenta millones de parámetros, y que
sigue siendo entrenado con un corpus de datos cada
vez mayor. Nada más lejos de la realidad. El uso masi-
vo de multitud de usuarios de diferentes disciplinas ha
puesto en evidencia las debilidades que presenta a día
de hoy.
Como se ha comentado anteriormente, existe un de-
bate abierto sobre la idoneidad de utilizar ChatGPT pa-
ra la realización de ensayos y trabajos académicos. En
este debate existe un miedo palpable a que los estu-
diantes generen sus ensayos completamente mediante
el uso de esta herramienta. Sin embargo, hay algunas
cuestiones en este punto que permanecen abiertas. Por
ejemplo, las capacidades generativas de ChatGPT ha-
cen que éste invente el contenido que desconoce, pu-
diendo además generar referencias que no existen e in-
cluso omitir algunas fuentes. Asimismo, las capacida-
des de ChatGPT para distinguir entre fuentes más y
menos fiables no están del todo claras.
Básicamente, los modelos generativos, tales como
ChatGPT, han sido entrenados para generar texto de
una forma lo más similar posible a la de un ser hu-
mano. No obstante, estas herramientas no comprenden
realmente el contexto de la salida generada y se basan
en la probabilidad de combinar las palabras de manera
más adecuada para producir el texto deseado. Aquellas
salidas anómalas y la predicción de resultados extraños
se denominan técnicamente alucinaciones.
Todo lo anterior, unido a los posibles sesgos que
pueda haber en el corpus de datos que utiliza ChatGPT
para su entrenamiento (tema muy de actualidad en el
ámbito de la inteligencia artificial) provoca que, aun-
que ChatGPT pueda generar texto inteligible y con un
116 Actas de las Jenui, vol. 8. 2023. Ponencias
Análisis Interno Análisis Externo
Po
si
tiv
o
N
eg
at
iv
o Alucinaciones (inventan el 
contenido que desconocen)
Sesgos culturales y sociales
Limitado razonamiento matemático
Accesibilidad y disponibilidad
(aunque esta no se garantiza 24/7)
Propulsor tecnológico y económico
Dispone de versión gratuita
Versatilidad y eficiencia de respuesta 
con independencia de la temática
Dependencia de la herramienta
Desinformación y perdida del sentido 
crítico
Originalidad del trabajo
Resolución de ejercicios del estudiante
Ayuda a la comprensión de 
problemas complejos
Mejora de comprensión lectora, 
capacidad de síntesis, creatividad, …
Catalizador del aprendizaje
Oportunidad para contrastar y 
verificar información
Autoría y ética del trabajo realizado
Figura 4: Análisis DAFO para la definición de las actividades docentes del profesorado utilizando ChatGPT
nivel de redacción adecuado, el contenido generado
pueda tener sesgos e imprecisiones o refleje prejuicios
y estereotipos sociales, por no hablar de las posibili-
dades de que esta herramienta plagie contenido a otros
autores y no sean citados en los textos que genera.
En otro orden de cosas, las capacidades de ChatGPT
en el razonamiento lógico y matemático son aún me-
jorables [3]. A fin de cuentas, ChatGPT no deja de ser
un modelo de lenguaje el cual, dado una entrada pre-
via, intenta predecir las siguientes palabras. Cuando da
un resultado correcto a una operación matemática, en
muchos casos se debe a que previamente ha memori-
zado la respuesta correcta a ese cálculo en concreto,
ya que estaba presente en su conjunto de entrenamien-
to (lo cual podría verse como un sobreaprendizaje). Si
bien es cierto que recientemente han aparecido exten-
siones de la herramienta para resolver este tipo de pro-
blemas,5 aún hay margen de mejora en lo que a estas
capacidades se refiere.
En resumen, los aspectos desarrollados anteriormen-
te hacen que, por una parte, el fin de los ensayos aca-
démicos todavía no sea un hecho. No obstante, la apa-
rición de herramientas como ChatGPT debería moti-
var a los docentes a plantear la realización de ensayos
académicos desde otro punto de vista en el que pue-
dan aprovecharse al máximo las ventajas de este tipo
de software. Cuando se analicen las oportunidades de
la herramienta, se desarrollarán algunas de estas ideas.
Por último, cabe destacar que el uso de ChatGPT como
herramienta para generar trabajos académicos e inclu-
so Trabajos de Fin de Grado (TFG), no aporta nada
nuevo (salvo el hecho de que es gratuito) a los servi-
5Véase la actualización del 30 de Enero de 2023 de ChatGPT.
cios externos que los estudiantes pueden contratar para
que terceros realicen por ellos sus entregas de prác-
ticas, trabajos académicos e incluso TFGs. Por tanto,
este miedo de la comunidad docente existía antes que
ChatGPT, si bien es cierto que esta herramienta uni-
versaliza y pone de forma gratuita a disposición de los
usuarios la posibilidad de subcontratar la realización
de sus ensayos académicos.
3.2. Fortalezas
A pesar de haber profundizado en la base tecnológi-
ca de ChatGPT y de disponer de la experiencia de mul-
titud de usuarios que han señalado sus limitaciones, no
todo son desventajas en el uso de esta herramienta. A
día de hoy, su principal fortaleza es su accesibilidad y
disponibilidad. ChatGPT es accesible desde cualquier
navegador web, lo que lo convierte en una herramien-
ta ligera para los usuarios, que no necesitan instalar
ningún software en sus equipos ni tener ningún cono-
cimiento avanzado de informática para interaccionar
con la herramienta desde cualquier dispositivo. Ade-
más, está disponible durante veinticuatro horas al día
los siete días de la semana y su uso es gratuito (aunque
recientemente se ha presentado una versión de pago
con mayor tasa de disponibilidad y menor tiempo de
respuesta). La única limitación en su uso está asociada
a la sobrecarga de peticiones en la versión gratuita. Por
este motivo, es posible que al acceder a ChatGPT no
sea posible interactuar con él debido a que está sien-
do utilizado en ese momento por miles de usuarios. No
obstante, la reciente versión de pago promete solucio-
nar estos problemas de disponibilidad.
Jiménez et al.: ChatGPT: Reflexiones naturales sobre inteligencias artificiales 117
Otra de las principales fortalezas es su versatilidad.
La herramienta es capaz de responder a una amplia va-
riedad de preguntas en diferentes áreas, lo que significa
que puede ser de gran utilidad para cualquier estudian-
te universitario. Además, ChatGPT ha sido entrenado y
personalizado para abordar temas específicos y respon-
der a preguntas concretas de una manera más efectiva
que su predecesor GPT-3, lo que es de gran utilidad en
el ámbito universitario y de investigación. Finalmente,
como modelo de lenguaje basado en aprendizaje au-
tomático, también puede mejorar su capacidad de res-
puesta con el tiempo, lo que significa que puede seguir
siendo una herramienta útil para los estudiantes a me-
dida que adquieren más conocimientos. Por tanto, la
capacidad de ChatGPT de aprendizaje continuo a par-
tir de corpus de datos cada vez mayores, lo convierte
en una herramienta muy potente a corto, medio y largo
plazo en el ámbito universitario e investigador.
El fenómeno ChatGPT no solo ha revolucionado la
tecnología de los asistentes conversacionales o chat-
bots, sino que su éxito ha empezado a trasladarse
a otras aplicaciones. Por ejemplo, han aparecido ex-
tensiones para el navegador Google Chrome como
ChatGPT for Google, que hace uso de ChatGPT para
que, cuando se realice un búsqueda en Google no solo
aparezcan los resultados del buscador, sino que tam-
bién aparezcan los resultados de ChatGPT. Otra exten-
sión disponible para este navegador es YouTube Sum-
mary with ChatGPT. Esta extensión permite generar a
través de ChatGPT un resumen de un vídeo de You-
Tube que se va a reproducir. Así, los usuarios pueden
decidir si un vídeo es o no de su interés a partir del
resumen generado por ChatGPT y, en caso de que así
sea, reproducirlo.
Finalmente, el reciente éxito de ChatGPT ha acele-
rado los esfuerzos de otras compañías en sistemas si-
milares. Esto ha llevado a empresas como Google a
presentar con urgenciasu sistema Bard, un asistente
conversacional basado similar a ChatGPT y desarro-
llado a partir de su modelo de lenguaje experimental
LaMDA. La premura por su lanzamiento (para poder
competir contra ChatGPT) ha llevado a Google a pér-
didas en bolsa [9]. Por otro lado, Microsoft, que ha
invertido 10,000 millones de dólares en OpenAI, ha
anunciado una nueva versión de su buscador Bing me-
jorado a través de ChatGPT para ofrecer mejores res-
puestas (aunque actualmente solo está disponible bajo
invitación).
En resumen, todas las fortalezas de ChatGPT que
han sido presentadas en este apartado deben incentivar
a la comunidad educativa, especialmente al profesora-
do, a incluir el uso de este tipo de herramientas en sus
clases, en lugar de rehuír de ellas por el miedo a las
consecuencias negativas que podrían derivarse de un
uso indebido por parte de los estudiantes.
3.3. Amenazas
Debido al enorme éxito cosechado por ChatGPT tras
su liberación y a la gran cantidad de aplicaciones que
se han encontrado a este sistema, han surgido tam-
bién una serie de usos inapropiados potencialmente
que pueden perjudicar el contexto en el que esta he-
rramienta sea utilizada.
En el ámbito de la docencia universitaria, la princi-
pal amenaza que presenta el uso de ChatGPT es la al-
teración de la autonomía del estudiante en su proceso
personal de aprendizaje. Esta alteración puede produ-
cirse si los estudiantes establecen una relación de de-
pendencia con la herramienta, de forma que pierdan el
interés en investigar y resolver problemas por sí mis-
mos, ya que ChatGPT podría resolver estos de forma
inmediata. Aunque es cierto que hay labores tediosas o
automáticas que la herramienta podría agilizar, su uso
abusivo puede socavar el desarrollo de habilidades im-
portantes como el pensamiento creativo, la resolución
de problemas y la toma de decisiones, por ejemplo.
Del uso abusivo y la dependencia del estudiante de
ChatGPT, se deriva otra amenaza importante: la pér-
dida del sentido crítico y la desinformación. Los es-
tudiantes pueden llegar a confiar excesivamente en las
respuestas de ChatGPT y considerarlas como verdade-
ras solo por provenir de una inteligencia artificial. Esto
sería perjudicial para el desarrollo de los estudiantes
que, no solo como universitarios sino también como
ciudadanos, deben aprender a cuestionar, contrastar y
verificar la información que proviene de la herramien-
ta, más aún siendo conscientes de los sesgos que pue-
den darse en las respuestas.
Para la comunidad educativa, la principal amenaza
de ChatGPT deriva del uso incorrecto que los estu-
diantes pueden hacer al generar automáticamente un
ensayo o trabajo académico a partir de ChatGPT. En
este caso, la verificación de la originalidad del docu-
mento es una tarea difícil ya que, a pesar de que exis-
ten herramientas que intentan detectar textos genera-
dos mediante una inteligencia artificial, estas no están
tan desarrolladas y no ofrecen una respuesta fiable. Por
otra parte, herramientas como ChatGPT podrían ser in-
cluidas como un autor más del documento, legitiman-
do su utilización. A día de hoy, aunque no es ilícito
usar ChatGPT como herramienta auxiliar para elabo-
rar un ensayo, no es lícito incluir estas herramientas en
el conjunto de autores de un ensayo al no poder res-
ponsabilizarlas de sus aportaciones [10, 11].
Además, en el caso de las carreras técnicas,
ChatGPT puede ser utilizado para generar código y re-
solver problemas de programación. Incluso se le puede
pedir a la herramienta que genere una descripción del
código desarrollado, lo que podría usarse para prepa-
rar una defensa frente al profesor o la elaboración de la
documentación de dicho código.
118 Actas de las Jenui, vol. 8. 2023. Ponencias
En definitiva, los potenciales usos inapropiados de
ChatGPT comentados anteriormente repercuten en la
degradación de la calidad del trabajo realizado y su
transparencia. Por tanto, la comunidad educativa está
llamada a trabajar en la incorporación de estas herra-
mientas a la docencia con el fin de llegar a un equilibrio
que permita aprovechar las ventajas de estos modelos
para agilizar ciertas tareas sin perjuicio de pérdida en
la calidad de los trabajos, su transparencia y especial-
mente en la autonomía y el potencial humano.
3.4. Oportunidades
Dice el refranero español que si no puedes con el
enemigo, únete a él. Un punto de vista interesante, aun-
que suponga un reto para la comunidad docente, sea
hacer de ChatGPT un aliado para que los estudiantes
adquieran las competencias que se definen en los pla-
nes de estudios. Se trata sin lugar a dudas de algo desa-
fiante pues, a fin de cuentas, ninguna generación contó
antes con herramientas tan potentes en su vida acadé-
mica.
Quizá un punto de partida para unirnos al enemi-
go, sea fomentar la realización de actividades con los
estudiantes sobre los contenidos de una asignatura uti-
lizando ChatGPT. De esta forma, se les puede mostrar
cómo el uso de esta herramienta puede ayudar a la me-
jora de la comprensión de conocimientos. En [2], sus
autores plantean realizar actividades con los estudian-
tes para verificar el contenido generado por ChatGPT
respecto a un tema en concreto, actividades de correc-
ción de errores de ChatGPT expandiendo o reduciendo
la propuesta generada así como profundizando en los
puntos más importantes que ofrezca como resultado.
De esta forma, los estudiantes pueden descubrir de pri-
mera mano que herramientas como ChatGPT pueden
ser de utilidad para verificar y contrastar información,
identificar puntos de interés sobre los que profundizar
a posteriori, generar resúmenes...
Partiendo de lo anterior, otra oportunidad que se pre-
senta a la comunidad educativa con la irrupción de
ChatGPT es trabajar con los estudiantes en la gene-
ración de entradas de texto (en inglés prompts) para
que, introducidos en un modelo de generación como
ChatGPT, éste obtenga con la mayor precisión posible
la salida que se está buscando. Esto es lo que hoy se co-
noce como ingeniería del prompt y, actualmente, exis-
ten servicios que venden estas entradas de texto a los
usuarios para obtener los resultados que esperan. Por
tanto, una oportunidad para los docentes es realizar ac-
tividades en las que los estudiantes reporten las entra-
das que han utilizado para que ChatGPT devuelva los
resultados que están buscando. De esta forma, se logra
que los estudiantes trabajen la comprensión lectora, la
creatividad, la capacidad de síntesis y de identificar la
información más relevante, entre otras competencias.
Por otro lado, como se ha comentado anteriormen-
te, ChatGPT también permite al estudiante de carreras
técnicas obtener una explicación o documentación de
códigos o algoritmos. Incluso se le puede pedir que da-
do un código de entrada, identifique los errores y pro-
ponga soluciones o mejoras. Correctamente encauza-
das, estas características pueden ser muy útiles a los
estudiantes para mejorar su comprensión de determi-
nados algoritmos, o detectar errores en sus trabajos.
En definitiva, se trata de integrar en la actividad do-
cente el uso de este tipo de herramientas para que los
estudiantes conozcan todos sus usos y aplicaciones, y
no solo el hecho de que pueden generar completamente
un ensayo académico a través de ellas. Es responsabi-
lidad y obligación de los docentes, por tanto, enseñar
estos y otros usos de los modelos de procesamiento del
lenguaje natural para que los estudiantes aprendan có-
mo utilizar estas herramientas como catalizadores de
su aprendizaje. Quienes decidan utilizar ChatGPT pa-
ra generar sus trabajos por completo lo harán a través
de estos modelos de lenguaje, contratando este servicio
o simplemente no realizarán las entregas. Sin embargo,
esta labor pedagógica de la comunidad docente puede
ayudar a que los estudiantes saquen el máximo partido
de modelos como ChatGPT para su vida académica,
sin hacer un uso ilícito de él. Por tanto, más interesan-
te que prohibir el uso de este tipo de modelos, puede
ser el permitir su uso yhacer que los estudiantes refle-
jen de forma honesta cómo y para qué lo han utiliza-
do. Así, podrán indicar las entradas que utilizaron para
hacerse una idea general del tema, cómo identificaron
gracias a esta herramienta las ideas principales, de qué
forma descubrieron que había una referencia que pro-
puso la herramienta que no existía, pero a partir de ella
encontraron otra que sí les resultó de utilidad... De esta
forma, los docentes tendrán a su disposición una traza
transparente del trabajo de los estudiantes.
Finalmente, a nivel tecnológico, los modelos como
ChatGPT ofrecen la oportunidad de seguir caminando
hacia una inteligencia artificial y sistemas inteligentes
democráticos, cuyos corpus de datos son públicos y
pueden ser refinados por otros expertos. Un ejemplo
de ello es la iniciativa Open Assistant6 que busca desa-
rrollar una IA conversacional similar a ChatGPT pero
de manera libre (open source), liberando tanto los data-
sets como el modelo y los parámetros de este. Sin em-
bargo, pocas compañías tecnológicas están capacitadas
para entrenar estos modelos cada vez más complejos
(lo que puede terminar resultando en una amenaza). A
día de hoy, este es un largo camino por recorrer pe-
ro sin lugar a dudas permitirá mejorar los sesgos en el
aprendizaje y las respuestas ofrecidas por los modelos
de procesamiento del lenguaje natural.
6https://open-assistant.io
Jiménez et al.: ChatGPT: Reflexiones naturales sobre inteligencias artificiales 119
4. Conclusiones
En este artículo se ha llevado a cabo un análisis DA-
FO sobre la herramienta ChatGPT para exponer una
serie de reflexiones sobre su uso y su impacto en la
docencia universitaria.
El análisis interno o análisis conjugado de fortalezas
y debilidades sitúa a ChatGPT como una herramienta
de fácil acceso, notable disponibilidad y altas capaci-
dades de aprendizaje continuo. Esto convierte a este y
otros modelos del lenguaje en herramientas aprovecha-
bles para la comunidad educativa, especialmente en el
ámbito universitario, en el que los estudiantes podrán
profundizar, investigar y afianzar conocimientos espe-
cíficos de una materia. Sin embargo, los posibles ses-
gos en los datos de entrenamiento y las alucinaciones
derivadas de sus capacidades generativas, convierten a
la herramienta en un arma de doble filo. Es imprescin-
dible por tanto la verificación del contenido generado,
lo cual puede seguir permitiendo a los docentes traba-
jar con los estudiantes el desarrollo del sentido crítico.
Con respecto al análisis conjunto de amenazas y
oportunidades o análisis externo, destacan los usos in-
debidos de ChatGPT con fines ilícitos en el desarrollo
de trabajos escritos, resolución de problemas, genera-
ción de código fuente... En definitiva, todos ellos re-
percuten negativamente en la autonomía del estudiante,
que genera una relación de dependencia con la herra-
mienta, pierde interés en resolver problemas por sí mis-
mo y confía con exceso en las respuestas de ChatGPT.
En último término, esta pérdida de autonomía se tradu-
ce en la generación por completo de trabajos académi-
cos con ChatGPT.
Ni los estudiantes son, por defecto, delincuentes, ni
los docentes policías de profesión. Por tanto, quien
quiera sortear la evaluación utilizará las herramientas
disponibles a su alcance para ello, incluyendo las téc-
nicas tradicionales, ChatGPT y cualquier otro modelo
de procesamiento del lenguaje natural que surja poste-
riormente. Sin embargo, para evitar esto la comunidad
docente está llamada a integrar y utilizar estas herra-
mientas en su día a día, enseñando a los estudiantes to-
dos sus usos y las formas de aprovechar estos modelos
para incentivar y mejorar su aprendizaje. Se trata, a fin
de cuentas, de anticiparnos y evitar que solo descubran
los usos ilícitos de estas herramientas y tengan una al-
ternativa de utilizarlas en beneficio de su aprendizaje.
De lo contrario, si no integramos estas herramientas en
las aulas, estaremos implícitamente reconociendo solo
sus usos ilícitos y favoreciendo de forma sutil que los
estudiantes accedan a ellas para hacer un uso indebido.
En esta primavera de la inteligencia artificial, con-
fiamos cada vez más en las capacidades de las máqui-
nas, pero no por ello desconfiamos de la originalidad,
la creatividad y el talento humano. Por todo ello, es-
tas reflexiones se han realizado contrastándolas con las
propias reflexiones de ChatGPT sobre sí mismo. ¿Se-
rán capaces nuestros jenuinos lectores de distinguir al
cerebro humano del cerebro artificial?
Referencias
[1] Joyjit Chatterjee y Nina Dethlefs. This new con-
versational AI model can be your friend, philo-
sopher, and guide ... and even your worst enemy.
Patterns, 4(1):100676, 2023.
[2] Lluís Codina. Cómo utilizar chatgpt
en el aula: propuesta para educado-
res. https://www.lluiscodina.com/chatgpt-
educadores/, Diciembre 2022.
[3] Faraón Llorens. Cavilaciones inverna-
les sobre la escritura de trabajos aca-
démicos usando inteligencia artificial.
https://www.universidadsi.es/cavilaciones-
invernales/, Diciembre 2022.
[4] Jorge Morla. El País: Cuando una inteligencia
artificial pinta mejor que cualquier artista.
https://elpais.com/babelia/2022-05-06/cuando-
una-inteligencia-artificial-pinta-mejor-que-
cualquier-artista.html, 5 2022.
[5] Humberto Ponce Talancón. La matriz foda: alter-
nativa de diagnóstico y determinación de estrate-
gias de intervención en diversas organizaciones.
Enseñanza e Investigación en Psicología, 2007.
[6] Alec Radford, Karthik Narasimhan, Tim Sali-
mans, e Ilya Sutskever. Improving language un-
derstanding with unsupervised learning. 2018.
[7] Chris Stokel-Walker. AI bot ChatGPT writes
smart essays — should academics worry? Na-
ture, 2022.
[8] Ilya Sutskever, Oriol Vinyals, y Quoc V Le. Se-
quence to sequence learning with neural net-
works. Advances in neural information proces-
sing systems, 27, 2014.
[9] Huileng Tan. Google pensaba que su IA
Bard aún no estaba lista, según su presidente.
https://www.businessinsider.es/google-pensaba-
ia-bard-aun-no-estaba-lista-presidente-1200164,
2 2023.
[10] H. Holden Thorp. Chatgpt is fun, but not an
author. Science, 379(6630):313, 2023.
[11] Eva A. M. van Dis, Johan Bollen, Willem Zui-
dema, Robert van Rooij, y Claudi L. Bockting.
Chatgpt: five priorities for research. Nature,
614(7947):224 – 226, 2023.
[12] Ashish Vaswani, Noam Shazeer, Niki Parmar, Ja-
kob Uszkoreit, Llion Jones, Aidan N Gomez, Łu-
kasz Kaiser, e Illia Polosukhin. Attention is all
you need. Advances in neural information pro-
cessing systems, 30, 2017.
120 Actas de las Jenui, vol. 8. 2023. Ponencias