Trabajo como investigadora en temas relacionados con la ciencia, la tecnología y su impacto en la sociedad. Cada año, al igual que mis colegas, debo escribir varios artículos para publicar en “revistas internacionales arbitradas”. Estas revistas se caracterizan por publicar investigaciones novedosas que son revisadas minuciosamente por un grupo de especialistas para asegurarse de que cumplen con los estándares adecuados. La publicación de cada uno de estos textos requiere varios meses de trabajo. Además de escribir artículos arbitrados, mis colegas y yo también tenemos que redactar libros, capítulos académicos y ponencias que se presentan en congresos o foros de divulgación. Por ello, dedicamos una gran cantidad de tiempo a buscar y leer referencias, así como a redactar y revisar textos. Todo esto implica una gran cantidad de trabajo y tiempo de investigación.

Ante la necesidad de trabajar durante muchos meses para publicar un texto de investigación, la tentación de usar inteligencias artificiales (IA) para hacer parte de nuestra labor es latente. Sin embargo, surgen preguntas sobre hasta qué punto podrían ayudarnos a avanzar con nuestro trabajo. ¿Podríamos confiar en las máquinas para hacer investigación? ¿Será que en el futuro las IA llevarán a cabo los trabajos de investigación en lugar de los seres humanos?

Estas preguntas han generado varias polémicas en los grupos académicos. Como dice mi querido amigo, el escritor y comunicador José Gordon, aludiendo al gran Umberto Eco, cuando se trata de las IA existen los “apocalípticos” y los “integrados”. Los primeros están convencidos de que la enseñanza y la investigación han llegado a su fin con la aparición de las IA, y que las nuevas generaciones ya no harán ningún esfuerzo por aprender, investigar o reflexionar. Algunos incluso creen que las nuevas tecnologías tomarán por asalto los empleos y que, eventualmente, podrían desarrollar una conciencia propia que las haría peligrosas para los seres humanos, como HAL 9000, la IA de la película 2001: odisea del espacio (1968) de Stanley Kubrick. Los integrados, en cambio, se adaptan a los avances tecnocientíficos, aprovechando lo que les resulta útil y explorando sus posibles aplicaciones.

Aunque algunos de mis colegas son pesimistas, yo he intentado pertenecer a la tribu de las y los integrados, pues creo que es fundamental aprender a usar las IA, que han llegado para quedarse y para transformar todas las esferas de nuestra vida. Siguiendo el espíritu del Manifiesto cíborg (1985) de la gran filósofa Donna Haraway, debemos reconocer la interdependencia entre la tecnología y los seres humanos, y abordarla de manera crítica. Las IA son herramientas poderosas, creadas y manejadas por seres humanos, que pueden expandir nuestras capacidades. Cuando utilizamos la tecnología como una extensión de nosotros mismos, nos convertimos en cíborgs. Bajo esta filosofía, en el último año me he dedicado a encontrar usos éticos de las IA para escribir artículos de investigación y divulgación, así como para utilizarlas como herramientas de enseñanza.

Las IA y la creatividad

Aunque las personas podrían pensar que la investigación científica, humanística o interdisciplinar, como la que hago yo, es algo árido y mecánico, en realidad requiere de mucha creatividad. Hay que identificar problemas interesantes y maneras originales de plantearlos y de resolverlos, y eso no lo puede hacer fácilmente una máquina, lo que comprobé en una de mis clases.

Hace algunos meses, comencé a notar que entre las tareas de mis alumnos de la licenciatura en matemáticas, aparecían textos en los que, de manera sospechosa, no había faltas de ortografía ni errores de redacción. Anteriormente, esto era casi imposible de encontrar, ya que todos cometemos errores, aunque sean mínimos. Sin embargo, a pesar de su excelente ortografía, estos textos resultaban muy “plásticos” o artificiales, carecían de personalidad y, a menudo, contenían información falsa o incorrecta. Los textos simplemente repetían ideas que ya han sido mencionadas muchas veces. Para averiguar cómo se habían redactado, usé algunas herramientas que encontré en la red para detectar el uso de las IA y así comprobé que mis estudiantes habían entregado ensayos escritos por las máquinas.

Debo confesar que mi primer impulso fue prohibir el uso de las IA en mi curso y reprobar a todos aquellos que las utilizaran. Sin embargo, en lugar de convertirme en una abuela tecnológica, decidí aprender a usar estas nuevas herramientas junto con mis estudiantes. Conforme aprendía más sobre las IA, comprendí que, por lo menos hasta el momento, solamente pueden repetir información e imitar lo que ya han creado los seres humanos. Las IA son incapaces de realizar innovaciones importantes por sí mismas. No son capaces de crear un movimiento artístico o musical original, ni proponer un nuevo género literario, ni tampoco encontrar la prueba a uno de los problemas del milenio, una serie de siete problemas matemáticos que propuso el Instituto de Matemáticas Clay en el año 2000; cada uno de estos problemas es extremadamente difícil de resolver, y dicho instituto ofrece un premio de 1 000 000 de dólares por cada problema resuelto. Si las IA fueran capaces de resolverlos, no habría duda de que alguien ya habría cobrado el dinero de los premios. Pero, aunque las máquinas no puedan crear trabajos que requieran alta creatividad, sí nos pueden ayudar a hacer las partes mecánicas de nuestra labor de manera más eficiente.

Las IA generadoras de texto

Desde 2020, las IA están transformando la manera en que buscamos información y creamos contenidos, tanto escritos como visuales. La capacidad de las IA para analizar grandes cantidades de datos, generar contenido personalizado y automatizar tareas repetitivas ofrece nuevas oportunidades para llevar a cabo diversos trabajos de forma más rápida y efectiva. Las IA tienen una amplia gama de aplicaciones en la vida cotidiana, tales como búsquedas en internet, creación de contenidos escritos y visuales, reconocimiento facial, asistentes virtuales, traductores, correctores de estilo, análisis de datos, búsqueda de patrones, entre otros. Su objetivo principal es replicar o superar la capacidad humana para realizar tareas complejas con eficacia y precisión. Al igual que la mayoría de la gente, me adentré en el mundo de las IA experimentando con ChatGPT-3, un modelo de lenguaje desarrollado por la compañía OpenAI.

En mis primeros experimentos, le pedí a ChatGPT que escribiera poemas imitando el estilo de Lord Byron (1788-1824) y de Sor Juana Inés de la Cruz (1648-1695) sobre la física de partículas contemporánea, un tema que no se conocía durante la vida de estos autores. El resultado mostró que la IA puede imitar el estilo de los escritores de manera interesante, pero no puede hacer aportaciones originales. Como señalan los investigadores estadounidenses Emily M. Bender y Timnit Gebru, las IA son “pericos probabilísticos”; es decir, están programadas para escribir aquello que, de acuerdo con sus bases de datos, es más probable que se escriba en un cierto tipo de texto.

Después de los poemas, le pedí a ChatGPT que redactara ensayos sobre diversos temas; por ejemplo, sobre los usos pacíficos de la energía nuclear. Los ensayos resultantes estaban bien escritos, pero presentaban errores garrafales en la ciencia e incluso contenían datos inventados que parecían reales, como referencias a revistas o libros inexistentes. A estas invenciones de información se les llama “alucinaciones” de las IA y son muy frecuentes. Otro de los problemas graves de estas herramientas son los sesgos de género, ya que a menudo la información que proporcionan es francamente machista. Por ejemplo, cuando se le pide a ChatGPT-3 en inglés una lista de las personas más importantes en la historia de la investigación matemática, la mayoría de los nombres proporcionados son de hombres. Debido a estas y otras razones, no recomendaría el uso de los modelos de lenguaje para realizar un ensayo o una tarea completa sin una revisión exhaustiva, ya que podría tener consecuencias desastrosas, como entregar un trabajo con información falsa.

A pesar de estos y otros problemas, uso regularmente ChatGPT-4, la versión más reciente desarrollada por OpenAI, en mi trabajo como investigadora y profesora, en el área de comunicación de la ciencia y derechos humanos, siempre teniendo en cuenta los errores que puede contener la información y los usos éticos, con una perspectiva de derechos humanos. ChatGPT-4 es una versión mejorada en comparación con las anteriores, pues es posible darle instrucciones de voz y pedirle que reconozca o que cree imágenes. Esta IA me ayuda a hacer mi trabajo de manera más eficiente. Por ejemplo, la uso para redactar cartas burocráticas formales, lo que me ahorra tiempo que puedo dedicar a escribir cosas más importantes. A veces le pido ideas para la estructura de algún texto, que me dé sinónimos de alguna palabra, que me explique de manera sencilla algún concepto, que me proporcione una definición o que resuma algún artículo que necesito para comprender mejor un tema. Mientras más creativas sean las instrucciones o prompts que uno le dé a la IA, mejores resultados se obtendrán. Una de las ventajas que ofrece la IA respecto a los buscadores convencionales es la velocidad. Además de ChatGPT-4, otras IA que pueden ser útiles como herramientas de investigación son Otio que puede resumir un artículo largo e identificar los puntos más relevantes, Gemini la IA de Google que es capaz de explicar conceptos complicados de un modo sencillo, o Bing IA que puede hacer búsquedas de información o de referencias que suelen ser confiables.

Mis alumnas y alumnos tienen permitido usar las IA generadoras de texto para sus tareas, siempre y cuando sigan las instrucciones que doy, especifiquen qué IA usaron y para qué, además de detallar los prompts que introdujeron. Les dejo utilizarlas, pero soy muy estricta en que cumplan con mis indicaciones. Hace unos meses, les pedí a mis estudiantes de licenciatura que entrevistaran a alguna científica para escribir un artículo sobre la importancia de las mujeres en la ciencia. Uno de ellos me entregó una tarea en la que le pidió a ChatGPT que respondiera la entrevista como si fuera una mujer científica. Mi alumno escribió su artículo basándose en las respuestas de la IA. El estudiante fue creativo, pero no siguió mis instrucciones. Antes de decidir su calificación, le planteé la situación a ChatGPT, su  respuesta fue que no merecía una buena calificación porque había entrevistado a una IA en lugar de a un ser humano, como yo lo había indicado.

Otra aplicación interesante de ChatGPT-4 es que realiza traducciones rápidas de textos del inglés al español o viceversa, para citarlos en algún artículo, siempre incluyendo la referencia correspondiente, tanto del artículo traducido, como de la IA que se usó para hacer la traducción. También puede revisar la ortografía y gramática de los textos, aunque para esta tarea prefiero usar el corrector gramatical Stilus, que marca cada uno de los errores que podría tener un artículo, o LanguageTool, que hace sugerencias para mejorar los textos en español. Hace unos meses, escribí junto con mis alumnas y alumnos de maestría y doctorado un texto en inglés. Aunque algunos de nosotros tenemos un buen manejo de este idioma, ninguno es hablante nativo. Para hacer correcciones de un texto en inglés, Grammarly es una herramienta fantástica que realiza en minutos el trabajo que a un traductor o corrector de estilo le llevaría semanas.

Hay veces que es necesario encontrar una IA que resuelva un problema particular en un proyecto específico. Me ocurrió hace algunos días cuando me invitaron a participar en un proyecto importante en el que, entre otras cosas, tenía que llevar a cabo varias entrevistas remotas desde la plataforma Zoom, que luego debían transcribirse. Aunque me ofrecieron el apoyo de un asistente para que hiciera la transcripción, esa persona tendría que haber transcrito cerca de 25 horas de entrevistas a todo el equipo del proyecto, para el cual solo teníamos algunos días. Pensé que debía existir una IA que resolviera este problema y así encontré Cockatoo, que puede transcribir una entrevista de una hora de duración en solo unos segundos, una tarea que a la asistente humana le habría tomado varias horas.

Aunque no se trata de una aplicación, sino de un gestor de referencias, no puedo dejar de mencionar a Zotero. Cuando empecé a trabajar en mi tesis de doctorado, hace más de 10 años, en la prehistoria tecnológica, revisé cientos de referencias que escribí manualmente al final de mi trabajo: una auténtica pesadilla. Por supuesto, mis tutores se quejaron de que las referencias tenían muchos errores y me pidieron que las corrigiera y  que modificara su formato. La revisión de las citas me llevó semanas; hoy, con la ayuda de Zotero se podría haber hecho en minutos. Esta aplicación permite crear bibliotecas con las referencias de libros, artículos, páginas de Internet, videos, etc., para citarlos dentro de un texto y crear una bibliografía con ellos. Una de las cosas que más me gusta de Zotero es que se puede cambiar el estilo de citación en un momento; por ejemplo, pasar de APA 7 a Chicago.

Las IA generadoras de imágenes

Una de las aplicaciones más interesantes de las IA es la generación de imágenes a partir de instrucciones en forma de texto. Herramientas como el generador de imágenes de Midjourney, Bing IA y Copilot entre otras, permiten obtener rápidamente imágenes libres de derechos de autor sobre cualquier tema.

No obstante, hay que tener cuidado al usarlas, pues pueden presentar una serie de problemas éticos. Uno de los más importantes es el uso y modificación de la imagen de una persona, sin su consentimiento. Algunas de estas imágenes han recorrido el internet, por ejemplo, las imágenes de Donald Trump siendo detenido y con un traje anaranjado de preso o las imágenes del Papa con vistosas chamarras blancas. También se han modificado las imágenes de algunas modelos para hacerlas ver más delgadas o para aclarar el color de su piel. El uso de las IA para modificar imágenes personales sin el consentimiento de los individuos retratados es una violación a sus derechos digitales.

Por otro lado, las IA pueden generar imágenes erróneas, como imágenes de personas con características que son imposibles para los cuerpos humanos reales, personas con ocho dedos en cada mano o cuellos inusualmente largos. Estas IA también presentan sesgos de género. Si se le pide a alguna de las herramientas anteriores que dibuje a una persona que trabaje en ciencia, lo más probable es que dibuje a personas del género masculino, con rasgos europeos.

El uso de IA para crear imágenes ha generado varias controversias. Un ejemplo notable es aquella del fotógrafo alemán Boris Eldagsen, quien ganó el concurso Sony World Photography Awards 2023 con una evocadora imagen en blanco y negro de dos mujeres. Sin embargo, Eldagsen renunció al premio tras confesar que la imagen había sido creada con IA para “acelerar el proceso de los organizadores del Premio para tomar conciencia de esta diferencia y crear concursos separados para imágenes generadas por IA”. Para el fotógrafo, el trabajo de un artista que se crea con generadores de imágenes de IA es una cocreación. “No se trata de presionar un botón, y listo. Se trata de explorar la complejidad de este proceso”,  incluso propone llamar a la creación resultante “promptografía”. Otro apocalíptico.

También ha sido polémico el uso de las IA para producir imágenes que imitan el estilo de artistas plásticos. Se les puede pedir que generen una imagen al estilo de Van Gogh, con un cielo estrellado en el que aparezcan drones volando, aparatos que no existían durante la vida del pintor, y la IA lo hará. Recientemente, algunas compañías han publicado imágenes creadas por las IA que imitan el estilo de ilustradores contemporáneos, lo cual es una violación de sus derechos de autor.

En la investigación y la docencia, es recomendable usar las IA generadoras de imágenes con cautela, ya que pueden contener errores o sesgos de distintos tipos. No obstante, a veces su uso puede ser muy útil para crear ilustraciones interesantes que desafían nuestra imaginación. Algunos artistas contemporáneos las han empleado para crear imágenes de gran belleza, mostrando, por ejemplo, paisajes futuristas de ciencia ficción.

Otros usos de las IA

No hay duda de que el uso de IA puede ayudarnos a realizar las tareas mecánicas de la investigación y la docencia de manera más eficiente. En el futuro, las aplicaciones de estas herramientas crecerán y serán cada vez más sofisticadas. Sin embargo, como ocurre con todos los avances tecnológicos, habrá aplicaciones que beneficiarán a la humanidad y otras que se usarán con fines bélicos o que conlleven violaciones a los derechos humanos. Entre los usos bélicos, podemos mencionar el reconocimiento facial o de territorios para llevar a cabo ataques con drones. Entre los usos poco deseables, se podría incluir dejar a cargo de una IA las decisiones sobre quiénes pueden cruzar una frontera y entrar a algún país, pues, al tener sesgos marcados, las IA pueden incurrir en violaciones a los derechos humanos. Por ejemplo, podría tomar las decisiones basándose en la apariencia física de las personas y prohibirle la entrada a aquellas que no correspondan con la imagen promedio o estereotípica de los habitantes de un cierto país.

Otro uso que podría ser controversial sería que una IA se encargara de decidir a quién contratar para cubrir una vacante en alguna empresa. En lugar de analizar los perfiles de los candidatos desde varios puntos de vista y elegir a la persona más apta, probablemente la IA seleccionaría a la persona que se pareciera más a aquellas personas que ya trabajan en la empresa, pues sus perfiles estarían en su base de datos y elegiría a los candidatos con métodos estadísticos. Por ejemplo, en una empresa en la que los trabajadores sean en su mayoría del género masculino, es posible que la IA elija a un candidato hombre en vez de una candidata mujer para el puesto. Esto podría afectar la igualdad de oportunidades para los candidatos y reducir la diversidad de perfiles en una empresa.

Afortunadamente, también habrá una infinidad de usos pacíficos de estas tecnologías. Algunos ya los está implementando la neurocientífica estadounidense, experta en el uso de las IA para proyectos de apoyo a diversas comunidades. Entre los logros de Ming y su equipo de Socos Lab está una IA llamada Muse que crea actividades recreativas, de enseñanza, manualidades y juegos para niños, pero dichas actividades no están hechas para que los pequeños las realicen solos, sino para que las realicen con sus familias. La IA propone dichas actividades basándose en la edad y el desarrollo cognitivo y motriz de cada niño, a partir de la información proporcionada por los padres. También han desarrollado un sistema para predecir crisis diabéticas en niñas y niños, además de una IA para prever si una mujer embarazada podría sufrir depresión posparto. Otras aplicaciones interesantes están siendo utilizadas por Hannah Price, cofundadora de Buried Giants y directora creativa de diversos proyectos innovadores, como el Museo Inmersivo de Shakespeare, en el que, usando herramientas de IA, se recreará el teatro en el que el dramaturgo británico presentaba sus obras en el Renacimiento.

Lo mejor está por venir. En los próximos años, seguramente veremos aplicaciones que combinen varios tipos de tecnologías como IA y tecnologías de realidad virtual completamente inmersivas, con la ayuda de sistemas de cómputo sumamente poderosos, como las computadoras cuánticas, que usan la mecánica cuántica para resolver problemas complejos que las computadoras clásicas o las supercomputadoras no pueden resolver, o que no pueden solucionar de manera rápida o eficiente. Es importante que todas y todos aprendamos sobre estos avances tecnológicos para poder beneficiarnos de ellos. También es crucial que participemos en los debates sobre el uso de estas nuevas tecnologías y que se promueva la diversidad entre las personas que programan las IA. Estamos al inicio de una revolución tecnocientífica que traerá muchos avances impresionantes y muchos estaremos impacientes por probarlos.

Finalmente, debemos acostumbrarnos a reportar el uso de las IA en el trabajo académico. En este artículo se utilizó ChatGPT-4 para buscar sinónimos y LanguageTool para detectar los errores ortográficos del texto.

GABRIELA FRÍAS VILLEGAS estudió Matemáticas, Lengua y Literatura Inglesas Modernas y Comunicación de la Ciencia. Es doctora en Filosofía de la Ciencia por la Universidad Nacional Autónoma de México (UNAM). De 2008 a 2021 se desempeñó como comunicadora de la ciencia en el Instituto de Ciencias Nucleares de la UNAM. Actualmente es Investigadora dentro del Programa Universitario de Derechos Humanos de la Coordinación de Humanidades de la misma institución.