José Manuel Dopazo Mella
Catedrático de Lingua Castelá e Literatura
Director do IES Plurilingüe Maruxa Mallo (Ordes-A Coruña)
xmdopazo@edu.xunta.es

Corenta e dous —dixo Pensamento Profundo, con calma e maxestade infinitas.

Douglas Adams, Guía do autostopista galáctico

O 16 de maio de 2023, durante a súa comparecencia no Capitolio, Sam Altman, un dos fundadores de Open AI, compartiu o seu temor a que a implantación das intelixencias artificiais deparase consecuencias catastróficas para a humanidade. Por iso proclamou que «debemos traballar xuntos para identificar e xestionar as posibles desvantaxes para que todos poidamos gozar das tremendas vantaxes».

Aínda que na última década os programas de xeración de textos acadaron unha difusión razoable, esta limitouse a ámbitos académicos e científicos moi específicos. Foi a partir de novembro de 2022, co lanzamento da versión 3 do Chat GPT, cando os modelos artificiais de linguaxe e, por extensión, todas as tecnoloxías vinculadas á intelixencia artificial pasaron a ocupar un lugar de privilexio na conversa e no debate público. Trátase da penúltima renovación do vello debate entre apocalípticos e integrados, entre aqueles que advirten das desvantaxes da última novidade tecnolóxica e os que maximizan as vantaxes. O ensino é un dos ámbitos nos que este debate está sendo máis fecundo.

Tales disquisicións acompáñanse das primeiras publicacións académicas que mostran as vantaxes e as desvantaxes das intelixencias artificiais. Son publicacións de urxencia, pero as súas primeiras conclusións, que deben ser acollidas coa cautela que require todo estudo condicionado pola présa e a inmediatez, poden darnos unhas orientacións iniciais sobre como responder ao impacto nas nosas vidas dunha tecnoloxía que chega a ser cualificada, non sabemos aínda se hiperbolicamente ou non, como a ferramenta máis poderosa xamais creada pola humanidade.

Este artigo non ten máis pretensión que a de facer un breve percorrido por algunhas das primeiras hipóteses sobre como os programas de intelixencia artificial dedicados á xeración automática de textos poden influír nun dos aspectos básicos da competencia en comunicación lingüística: a expresión escrita e a súa didáctica. Analizaremos, pois, os riscos e as oportunidades que nos ofrece Chat GPT.

1. Riscos e desvantaxes para a expresión escrita

Despois de considerar hai un par de anos que o futuro do ensino pasaba inevitablemente pola aprendizaxe virtual a distancia, podcasters, youtubers e influencers dos ámbitos máis variados, así como os medios de comunicación tradicionais, os foros académicos e as revistas de institucións científicas e universitarias, convertéronse nos últimos meses nun fervedoiro de opinións sobre como a intelixencia artificial vai provocar, de maneira radical, unha verdadeira transformación na maneira de ensinar e aprender.

As referencias aos riscos e ás desvantaxes do emprego destas ferramentas é constante. Algunhas desas referencias empezan a converterse en ideas de certa solidez e, aínda que non sempre están avaladas por evidencias incontrovertibles, parece recomendable telas en conta. Destacaremos aquí tres desas ideas vinculadas coa expresión escrita.

1.1. Chat GPT non é unha fonte de información

Chat GPT non é unha fonte de información fiable. De feito, nin sequera debería considerarse como unha fonte de información.

Chat GPT é simplemente un modelo de linguaxe baseado na estatística. Unha vez escrita unha palabra, o programa predí cal é a palabra que ten máis probabilidades de aparecer a continuación. Na súa esencia, non é diferente ás predicións que realiza o noso móbil cando escribimos por WhatsApp: tecleamos unha palabra e a aplicación predí, tendo en conta cales son os nosos hábitos de escritura, que palabra é máis probable que apareza despois. A diferenza radica en que Chat GPT dispón na súa base de datos de millóns de textos, co cal as respostas que ofrece poden resultar dunha riqueza formal asombrosa.

Pero Chat GPT non analiza desde a lóxica os contidos ou os feitos aos que fai referencia. Simplemente porque para Chat GPT os textos non son signos senón meros significantes. Xustamente, Gary Marcus e Ernest Davis (2020) afirman que o grande avance que deberán conseguir as intelixencias artificiais de xeración de textos é incorporar a causalidade e o razoamento, é dicir, tratar a linguaxe como signos organizados en virtude dunha serie de condicións de textualidade e de normas pragmáticas.

Recoñecer a condición exclusivamente formal coa que Chat GPT xestiona a linguaxe é fundamental para o seu adecuado emprego como recurso didáctico. E convencer diso o alumnado, tendo en conta as sofisticadas aparencias de verdade que ofrece Chat GPT nas súas respostas, é unha tarefa complicada, pero crucial, pois implica a reactivación das súas destrezas críticas e analíticas.

1.2. Chat GPT facilita o plaxio

A segunda idea que recollemos entre aquelas que empezan a asentar nos foros académicos é que Chat GPT facilita o plaxio (aínda que non está claro que se poida etiquetar como «plaxio» o emprego de textos creados por unha intelixencia artificial).

En efecto, nos centros educativos xa se advirten usos inadecuados de Chat GPT. Se ata agora recibiamos en ocasións tarefas do alumnado que eran un resultado de «copiar e pegar» textos que ofrecía calquera web (e cuxa procedencia era fácil de identificar), Chat GPT ofrece agora respostas personalizadas, e imposibles de atopar en Internet, que o alumnado pode facer pasar por propias. Estas prácticas irían en menoscabo da creatividade e da capacidade crítica, habilidades fundamentais que o exercicio da escrita é capaz de fortalecer.

Cotton, Cotton e Shipway (2023) propoñen varias estratexias para evitar este uso empobrecedor de Chat GPT.

Un primeiro grupo de estratexias consiste en propoñer tarefas con instrucións claras que obriguen a empregar unha diversidade de fontes e ferramentas: proxectos de resolucións de problemas ou de análise de casos vinculados ao contexto do alumnado; tarefas cooperativas e interactivas que integren discusións en equipo; produción de textos froito de investigacións independentes realizadas polo alumnado...

O segundo grupo de estratexias fortalece os procedementos de avaliación formativa: o foco da avaliación non debería ser o produto, senón o proceso de creación do texto. Nese sentido, a análise dos sucesivos borradores nas distintas fases de textualización e as interaccións co alumnado durante o proceso poñerá a énfase no pensamento crítico e na creatividade. Ademais, as avaliacións en tempo real e o emprego de instrumentos de avaliación variados (informes, presentacións orais, entrevistas...) esixirán do alumnado a comprensión profunda do tema tratado nas súas composicións.

Finalmente, son útiles tamén as estratexias para detectar o emprego inadecuado de Chat GPT. Por unha parte, o estilo dos textos elaborados por Chat GPT contén algúns trazos prototípicos: construcións sintácticas moi precisas, estrutura organizada con coherencia, frases e palabras repetidas e tendencia á abstracción e á xeneralización. Por outra parte, xa están dispoñibles programas que indican, cunha fiabilidade moi alta, a probabilidade de que un texto dado fose producido por unha intelixencia artificial.

1.3. Chat GPT pode prexudicar o pensamento, a creatividade e a empatía

Escribir mejora el pensamiento. El ritmo del proceso permite la reflexión pausada y la posibilidad de edición invita al refinamiento. Escribir no consiste sólo en expresar lo que uno piensa, sino sobre todo en descubrir lo que uno piensa sobre la marcha.

Carissa Veliz (2023), evocando as numerosas teorizacións sobre a relación entre linguaxe e pensamento, recórdanos que o proceso de creación dun texto é inseparable do proceso de creación dunha idea. Por iso nos advirte dun risco: se o alumnado se acostuma a depender das intelixencias artificiais para a creación de textos, perdería tres tipos de habilidades: as creativas, as de pensamento crítico e as emocionais (entre as que destaca a empatía, imprescindible para poñerse no lugar do lector ou lectora e poder deseñar así unha mensaxe que resulte significativa, atractiva e integradora de puntos de vista diferentes).

Varios estudos atribúenlle a Chat GPT unha capacidade creativa, é dicir, a capacidade de xerar ideas novas e útiles. Haase e Hanel (2023) distinguen entre a «creatividade cotiá», relacionada coa rapidez e coa improvisación e integrada no traballo e na vida cotiá, e a creatividade «Gran-C», capaz de xerar ideas que cambian o mundo. No seu estudo afirman que demostran que os chatbots como Chat GPT son moi bos na creatividade cotiá: os textos que producen son percibidos como «creativos» polos receptores humanos que participaron na investigación, que, polo xeral, non son quen de distinguir a orixe artificial do texto. Porén, estes chatbots demostraron as súas limitacións ante tarefas que precisaban da creatividade «Gran-C» pero, afirman os autores, trátase do mesmo tipo de limitacións que ten a maior parte dos humanos ante retos semellantes.

En todo caso, o máis relevante desta investigación é que as persoas vemos mellorada substancialmente a nosa actividade cognitiva e a nosa creatividade cando estamos en contacto con ideas altamente creativas, é dicir, ante ideas caracterizadas pola capacidade humana de soñar, visualizar e imaxinar futuros potenciais. Non parece oportuno, pois, perder ese contacto.

2. Oportunidades e vantaxes para a expresión escrita

Non é infrecuente enmarcar a relación de vantaxes que Chat GPT ofrece para a didáctica da expresión escrita nunha serie de analoxías que sitúan as intelixencias artificiais ao lado doutras ferramentas que, lonxe de ter consecuencias devastadoras para a humanidade, facilitan a vida das persoas. Por exemplo, se unha máquina escavadora facilita a realización de tarefas físicas de dimensións extraordinarias para un corpo humano, unha intelixencia artificial non é máis ca unha máquina que facilita a realización de tarefas intelectuais de dimensións extraordinarias para unha mente humana. Tampouco faltan as analoxías con calculadoras matemáticas ou con correctores de texto. Preséntanse todas elas como ferramentas que permiten ir máis alá en menos tempo.

2.1. Chat GPT permite centrarnos na «escritura sofisticada»

Que significa «escribir ben» hoxe en día?

Lea Bishop (2023) propón unha distinción nos tipos de escrita que pode ser de utilidade no contexto creado polos programas de produción de textos. Por un lado, temos a «escritura mecánica», cuxa función é comunicar información existente de maneira clara e convencional; Chat GPT pode realizar esas tarefas mellor e máis rápido ca un humano. Por outro, temos a «escritura sofisticada», que xera novos coñecementos mediante unha escritura reflexiva e creativa; necesita de habilidades de pensamento crítico e profundo das que carecen os chatbots.

Bishop considera que, nunha sociedade na que as intelixencias artificiais sexan accesibles para toda a poboación e estean integradas de maneira natural no seu día a día, a escritura mecánica carecerá de valor. Os textos de transacción de información, que non precisan ser creados nin lidos desde o pensamento crítico, serán producidos automaticamente por computadoras (polo que as empresas non contratarán persoas para que os produzan).

Por iso, segundo a autora, os esforzos deberán concentrarse en mellorar as habilidades de escritura sofisticada do alumnado, é dicir, nas habilidades das que carecen os modelos de xeración de linguaxe. Ensinar a escribir equivale a ensinar a pensar criticamente: examinar múltiples fontes de información, considerar un asunto desde perspectivas diversas, avaliar evidencias e argumentos, identificar inferencias e suposicións, razoar con lóxica... Escribir ben é ler, pensar e xerar novas ideas.

2.2. Chat GPT facilita as tarefas de mellora de textos:

Aos modelos de xeración de textos podemos solicitarlles tarefas moi concretas mediante instrucións detalladas (as denominadas prompts na xerga das intelixencias artificiais) que poden axudar o alumnado a mellorar o seu nivel de expresión escrita nas tres fases do proceso de escritura.

- Na fase de planificación: o alumnado pode solicitarlle a Chat GPT ideas para o seu texto (a modo de choiva de ideas), propostas para a estrutura do texto e reflexións sobre o xénero ou modalidade textual máis adecuada para os seus propósitos comunicativos. Tamén pode pedirlle ao chat que lle faga preguntas ao propio alumnado destinadas a darlles forma ás ideas que sosteñan o texto.

- Na fase de textualización: Chat GPT pode ofrecer versións estilísticas diferentes dun mesmo contido para suscitar unha reflexión sobre o ton máis adecuado para o texto en construción. Tamén pode enriquecer o vocabulario se lle solicitamos a reescritura de fragmentos adaptándoos a determinado nivel lingüístico.

- Na fase de revisión: Chat GPT pode responder a instrucións sobre corrección ortográfica, gramatical ou sintáctica do texto. É posible solicitarlle a redacción de preguntas ou de criterios de avaliación para valorar o texto creado e atopar ámbitos de mellora.

A principal eiva que pode presentar a intervención de Chat GPT sobre o texto que lle ofrezamos é que se trata dunha intervención automática instantánea. Iso non garante que o alumnado poida advertir o sentido das correccións ou dos cambios propostos polo programa, de maneira que tampouco queda garantida a reflexión metalingüística ou a apreciación estética do texto.

2.3. Chat GPT enriquece a escritura creativa  

Mo Yan é un novelista chinés que recibiu o Premio Nobel de Literatura no 2012. En maio do 2023 encargóuselle a creación dun breve discurso na honra dun novelista amigo. Mo Yan admitiu que, ante un inesperado bloqueo creativo, botou man de Chat GPT para escribir o seu discurso.

Aumentan as experiencias de escritoras e escritores profesionais que refiren como os chatbots lles axudan a superar os bloqueos, a atopar premisas argumentais orixinais e a enriquecer as liñas narrativas das súas historias. Por exemplo, Stephen Marche (2020) conta como un chatbot lle axudou a elaborar un sofisticado argumento que nunca sería capaz de construír por el mesmo. Dado que unha intelixencia artificial dispón dunha cantidade inxente de obras literarias dun xénero determinado, as propostas que ofrece condensan o coñecemento de todas esas referencias. Marche afirma que as influencias dun creador se limitan ás poucas obras que un humano é capaz de ler. Traballar cunha intelixencia artificial permite estar sometido á influencia creativa de obras que nunca se leron.

Non comparte esa visión Muhammad Shidiq (2023), quen considera que a aprendizaxe da escritura creativa se basea na comunicación interactiva entre docentes e estudantes. Ademais dos efectos motivadores derivados da implícita valoración do proceso creativo seguido por cada alumna ou alumno, a intervención do docente ofrecerá unha exploración das ideas dos estudantes como material literario coa finalidade de matizalas e enriquecelas. Cre o autor que esas interaccións, definitorias da aprendizaxe da creatividade literaria, non poden ser substituídas por ningunha das múltiples funcionalidades de Chat GPT.

A Writers Guild of America, o sindicato de guionistas máis poderoso de Hollywood, iniciou o 2 de maio de 2023 unha folga que paralizou a industria do audiovisual. Un dos principais motivos da folga é o temor a que as produtoras, co afán de maximizar os beneficios económicos, substitúan os guionistas por intelixencias artificiais. O probable modus operandi das produtoras consistirá en pedirlle a unha intelixencia artificial unha primeira versión dun guión; o labor dos guionistas limitarase a mellorar ese primeiro borrador. Redúcese así o tempo de contrato e a asignación de dereitos de autoría. Tamén a calidade da obra, pero iso, para determinadas series ou películas, non parece importante.

3. Cal é o sentido da vida, do universo e de todo o demais?

Pensamento Profundo é o nome da poderosísima intelixencia artificial que, na irónica novela Guía do autostopista galáctico, dedica sete millóns e medio de anos a procesar a resposta á pregunta que encabeza este apartado. Esa  resposta, agardada ansiosamente por unha sucesión interminable de xeracións, resultou desconcertante: «Corenta e dous». Ese é o sentido da vida.

Os científicos manifestáronlle as súas queixas a Pensamento Profundo: «Iso é todo o que tes que dicirnos?», exclamaron. A réplica de Pensamento Profundo debe servirnos de aviso para que nós, incipientes usuarios de aínda rudimentarias intelixencias artificiais, saibamos manexarnos neste novo contexto: «Comprobeino con moito coidado e esa é exactamente a resposta. Para ser franco, creo que o problema consiste en que nunca soubestes moi ben cal é a pregunta».