El 30 de noviembre de 2022 el mundo cambió. Fue el día en el que la humanidad descubrió ChatGPT, una versión pública de la Inteligencia Artificial (IA) generativa de la empresa OpenAI que en pocos días hizo furor en las vidas de millones de personas. El funcionamiento era sencillo: un campo de texto en el que preguntar sobre cualquier tema y una respuesta obtenida a los pocos segundos. Parecía saber de todo, entendernos, conocernos. Construía frases con sentido que, en mayor o menor medida, encajaban con la temática preguntada.
Tuvimos la sensación de estar conversando con alguien, cuando en realidad estábamos intercambiando información con un algoritmo con acceso virtual a todo nuestro conocimiento acumulado y accesible a través de internet. Un sistema capaz de extraer elementos relevantes de toda esa panoplia de datos y obtener patrones a partir de los cuales construir respuestas elaboradas, estadísticamente aceptables y relativas al contexto de la pregunta; pero con el riesgo de que alguna de estas respuestas contuviera alucinaciones, datos inventados por la IA al no encontrar referencias sobre un tema. Tras ChatGPT llegaron otras IA como Copilot, Grok, Gemini, Perplexity, Grammarly, DeepSeek o Claude. Pasamos a interaccionar con ellas a diario, para lo bueno y para lo malo. También en ciencia.
Los pilares fundamentales de la investigación científica son dos documentos: el proyecto y el artículo científico. La hipótesis para validar y los resultados obtenidos que se deben contar. No hay más. Con estos dos documentos hemos evaluado la creatividad, novedad, innovación, relevancia, esfuerzo, trabajo, excelencia e impacto de investigadores individuales, líderes de laboratorios, grupos y centros de investigación. Ahora, cuando la IA llega a nuestras vidas científicas, observamos cómo se mete hasta la cocina y es capaz de intervenir en la formulación de la hipótesis, en la escritura del proyecto, en su evaluación y ejecución, en la obtención e interpretación de los resultados, en la escritura del artículo, en su evaluación y en su eventual publicación. En otras palabras, hemos descubierto en menos de cuatro años que la IA es capaz de contribuir en todos y cada uno de los pasos de la actividad investigadora.
Si lo anterior es cierto, hemos creado, aparentemente, un problema. Si la IA es capaz de abordar todas las fases del desarrollo científico, entonces, ¿debe ser corresponsable? ¿Es la IA un objeto, o un sujeto de derechos, como los seres humanos? ¿Debemos darle crédito por habernos ayudado o directamente suplantado en nuestra labor científica? Son preguntas que se agolpan en nuestra mesa y para las que todavía no tenemos respuestas.
Más rapidez, menos creatividad
Apenas un año después de la aparición de ChatGPT, la revista Nature ya lanzó una encuesta a unos 1.600 investigadores para deducir el impacto positivo y negativo de la IA en ciencia, analizando cómo la estaban usando.
En el lado positivo, es obvio que gracias a la IA podemos gestionar enormes volúmenes de datos de forma automática, acelerando su análisis computacional y ahorrándonos tiempo y dinero. Nos ayuda a escribir código informático y artículos, responder a preguntas difíciles para realizar descubrimientos y establecer hipótesis; buscar la información que necesitamos en cada momento; y resumir desde artículos o proyectos a enormes cantidades de datos en breves párrafos o gráficos. A los no angloparlantes nos sirve de apoyo con el inglés de nuestros textos. Incluso nos ayuda en la evaluación de proyectos o de artículos. Pero todo ello también tiene un coste.
La IA es muy buena aprovechando todos los datos a los que tiene acceso, pero no es igual de buena cuando se le plantean ideas nuevas o disruptivas
En el lado negativo, la IA es capaz de encontrar patrones en conjuntos de datos, incluso si no los hay, descubriendo relaciones que no sabrá explicar. Es una caja negra que elabora respuestas y responde, pero no sabemos exactamente cómo lo hace. Sus respuestas van a contener sesgos en función de los datos que hayamos usado para entrenarla; y puede generar resultados irreproducibles. Además, y esto es de lo más preocupante, va a facilitar el fraude, dado que será fácil inventarse datos que tengan sentido y encajen, pero que sean falsos. Con ello, proliferará la desinformación, aumentarán los plagios, se incluirán errores y sesgos en proyectos y artículos; incluso puede comprometer la formación de los nuevos investigadores. También aumentará el consumo energético ingente que necesitan todas estas IA para funcionar en los servidores informáticos que las alojan.
La revista Nature revisó esta encuesta dos años más tarde y solamente con cuatro cifras podemos percatarnos de la adopción rapidísima de la IA en ciencia. Hemos pasado de usar la IA para escribir artículos de un ~28 % en 2023 a más de un 46 % en 2025. Para ayudarnos en nuestra investigación, de un 25 % a un 64 %. Para echarnos una mano en la escritura de proyectos, de un ~18 % a un 31 % y, lo que es más sorprendente, para evaluar artículos científicos, de un tímido 15 % a más del 50 %. Traducido esto último: más de una de cada dos evaluaciones que se realizan hoy en día de artículos científicos no han sido realizadas por investigadores, sino por IA.
Los investigadores que han abrazado la IA desde el principio tienen mayor impacto, aumentan su número de citas y su productividad. Sin embargo, su creatividad se resiente y tienden a enfocarse en temáticas cada vez más reducidas. Esta es una primera alerta. La IA es muy buena aprovechando todos los datos a los que tiene acceso, el universo conocido; pero no es igual de buena cuando se le plantean ideas nuevas o disruptivas para las que no existen datos previos con los que relacionarlos.
Alimentando a la IA con textos confidenciales
Seguramente, el uso más extendido que hacemos los científicos de la IA es para revisar el inglés de nuestros textos. Antaño acudíamos a nuestro Paul Smith o Jane Brown (nombres ficticios) correspondientes, amigos que habíamos hecho en el extranjero; o a algún editor científico nativo en lengua inglesa que era capaz de convertir nuestro inglés deficiente en textos impecables en la lengua de Shakespeare. Ahora ya no los necesitamos.
Subimos los textos a cualquiera de estas IA y nos lo devuelven mejorado, en diversas versiones que podemos escoger. No somos conscientes del peligro que oculta. Cada vez que subimos un texto a la IA para que revise nuestro inglés, a no ser que nuestra institución haya instalado un motor de IA a nivel local, lo que estará ocurriendo es un trasvase efectivo de nuestros textos —que seguramente serán confidenciales— a la nube, pasándolos a disposición de cualquier otra búsqueda que se realice en cualquier lugar del mundo. Y, si queríamos usar esos textos para depositar una patente, es posible que perdamos la novedad, al encontrarse ya a disposición de cualquiera.
La línea roja entre mejora y autoría
Si la IA puede ayudarte a reformatear un artículo que ha sido rechazado por una revista para poder enviarlo a otra que exige un formato distinto, bienvenida sea. No hay labor más ingrata que el reformateo de los artículos. Si esto lo podemos hacer automáticamente, ¡hágase!
Pero una cosa es que la IA te ayude a mejorar la redacción o la estructura de tu propuesta; y otra cosa es que le pidas a la IA que te escriba el proyecto o el artículo desde el principio, a partir de una serie de datos, resultados y referencias más o menos deslavazadas. Desaparece entonces el aporte intelectual de la persona. Se desvanece el crédito que querremos atribuirnos como autores.
La profundidad y calidad de las respuestas va a depender de si usamos versiones gratuitas o de pago, esto generará desigualdades entre los investigadores
Por eso ya se está explorando el uso de IA como coautora o evaluadora de la calidad científica de los resúmenes que se envían a los congresos científicos. Las primeras experiencias nos indican que, en aquellos resúmenes evaluados por IA, es más difícil que se cuele algo inventado, son técnicamente correctos, pero carecen de creatividad. Cuando los resúmenes han sido escritos por IA, habitualmente son reinterpretaciones de temas conocidos. Las IA son abiertamente mejores analizando los resultados y extrayendo patrones o conclusiones. Por el contrario, los resúmenes escritos por humanos son mejores a la hora de diseñar hipótesis y aquellos que fueron escritos por IA sin la participación humana fueron los menos seleccionados.
Existen IA que nos ayudan a escribir proyectos y artículos y a preparar las figuras que los ilustran (como Paperpal, Jenni o PaperBanana), pero debemos ser conscientes de esa línea roja que separa la mejora de la autoría. Hay quien dirá que siempre podremos descubrir los textos que hayan sido escritos por una IA; pero la tecnología avanza implacablemente y ya hay IA que humanizan el resultado de otras IA para que la escritura de la IA sea indetectable. Una batalla interminable.
También debemos ser conscientes de que la fiabilidad de una IA va a depender del plan de negocio que tengamos contratado. La profundidad y calidad de las respuestas va a depender de si usamos versiones gratuitas o de pago y de cuánto pagamos. Esto generará desigualdades entre los investigadores probablemente mayores a las que se establecieron hace años entre quienes tenían o no acceso a internet.
Las trampas de la evaluación
Seguramente uno de los aspectos en los que la IA genera más controversia en ciencia es su utilización para evaluar proyectos y artículos científicos. La evaluación por pares es, por definición, un acto no delegable. Te invitan a ti a que evalúes ese texto, no a otra persona. Eres tú quien va a firmar esa evaluación cuando la devuelvas a la revista o a la agencia financiadora. De ahí que investigadores, editores, editoriales y agencias de investigación estén muy preocupados por la situación actual, en la que más de un 50 % de esas evaluaciones parecen estar hechas por IA, no por investigadores, que remiten estos textos asumiendo su autoría sin ser los autores de esas evaluaciones.
La primera vez que usé QED, una IA que analiza la robustez de un artículo, me quedó claro que estábamos ante el final de la revisión por pares entre humanos tal y como la conocemos. Se acabó
La picaresca también ha hecho mella en este apartado. Si yo sé que mi proyecto o artículo lo va a evaluar una IA, puedo incluir en mi texto, escrito en color blanco (invisible a los humanos, pero no a las IA) instrucciones para que la evaluación sea benévola, favorable y positiva. Indicaciones que la IA seguirá disciplinadamente.
Una de las IA más avanzadas en el análisis pormenorizado de textos científicos es QED, acrónimo que deriva del latín “quod erat demostrandum” (como queríamos demostrar), desarrollada en la Universidad de Tel-Aviv. Esta es una IA a la que puedes subir un proyecto o artículo y va a analizar la robustez de la propuesta: si la hipótesis está bien planteada, si los objetivos y los planteamientos experimentales son los más adecuados, si faltan evidencias o, por el contrario, si hay evidencias redundantes, si se citan los trabajos que hay que citar o si faltan o sobran referencias. La primera vez que usé esta IA me quedó claro que estábamos ante el final de la revisión por pares entre humanos tal y como la conocemos. Se acabó.
Podríamos pensar que el artículo de Doudna y Charpentier, que propuso usar el sistema CRISPR para editar genes, hubiera sido bloqueado por una IA al ser demasiado disruptivo e inesperado
La IA está transformando cómo vamos a revisar nuestros textos científicos y deberíamos ser conscientes no solo de sus ventajas (que las tiene, y muchas) sino también de sus limitaciones. Por ejemplo, es excelente detectando errores técnicos que pasarán desapercibidos a los investigadores (como unidades erróneas en las cifras). Va a funcionar muy bien evaluando proyectos o artículos similares a otros que ya existan, con los que pueda comparar. Así, corremos el riesgo de que la IA desdeñe o rechace propuestas muy distintas a todo lo conocido.
El uso sistemático de la IA en evaluaciones científicas puede comprometer la promoción de propuestas innovadoras; justo lo contrario de lo que le pedimos a los investigadores: que se esmeren en ideas novedosas e innovadoras. Podríamos llegar a pensar que el artículo de las laureadas con el Nobel de Química Jennifer Doudna y Emmanuelle Charpentier, que propuso usar el sistema CRISPR descubierto por Francis Mojica para editar genes, hubiera sido bloqueado por una IA al ser demasiado disruptivo e inesperado.
Frente a estos peligros potenciales emergen experiencias que sugieren que quizá no esté tan mal usar IA para evaluar proyectos. Esto es lo que ha hecho la Fundación “La Caixa” en una de sus últimas convocatorias. Entrenó a una IA con todos los proyectos, seleccionados y rechazados, de convocatorias anteriores, y le pasó todas las solicitudes recibidas: 714. La IA rechazó 122. Estas 122 se mandaron a evaluadores humanos que rescataron 46. Finalmente, las 638 propuestas se mandaron a evaluadores humanos que seleccionaron 34 para ser financiadas, y solo 2 de las 46 fueron aprobadas. A la vista de estos resultados, otras agencias de financiación se están planteando aplicar IA al menos para reducir la complejidad inicial del total de propuestas recibidas, y poder concentrarse en la evaluación de las que potencialmente podrán ser financiadas. Algunas IA también han sido usadas no solo para evaluar la calidad de los proyectos o artículos, sino para anticipar su posible impacto.
Bibliografía alucinada
No solo en la evaluación la IA presenta carencias, también en la escritura de revisiones bibliográficas. En estos textos es necesario encontrar el balance adecuado entre relatar una retahíla de resultados publicados y resaltar algunos de ellos, los más relevantes, que permiten explicar el avance científico, de acuerdo con la experiencia del autor de la revisión. Parece que las IA, al menos las actuales, no pueden aplicar estos matices que son esenciales en las revisiones.
Las alucinaciones son otro de los temas preocupantes. Por ello cabe recordar que el mejor uso de una IA se debe hacer desde el conocimiento profundo del tema sobre el que se le pide ayuda o asistencia. Si conocemos bien la temática será más difícil que la IA nos engañe, aunque hay un aspecto negativo que ya está causando problemas serios debido a estas alucinaciones: cuando la IA se inventa referencias bibliográficas inexistentes con apariencia de veracidad.
Un estudio reciente ha analizado 111 millones de referencias presentes en 2,5 millones de artículos depositados en servidores de preprints (arXiv, bioRxiv…) y encontró alrededor de 150.000 referencias que no existen en el registro científico. Hay quien ya propone que los autores de esos artículos que incorporan referencias inventadas tengan vetado subir otros artículos a estos servidores de preprints como sanción a este comportamiento inaceptable.
¿Y la formación?
La IA ha llegado para quedarse en ciencia. Esto es indiscutible. Su enorme cantidad de usos está incrementando nuestra capacidad de avance en todos los campos científicos. Pero, entre sus aspectos preocupantes, destacan los relativos a la formación de los investigadores jóvenes.
Si un contratado predoctoral, con ayuda de la IA, puede resumir un artículo sin leerlo, si puede establecer una hipótesis sin elaborarla, si puede diseñar experimentos sin pensarlos, si puede generar simulaciones virtuales de experimentos sin ejecutarlos, si puede recoger datos automáticamente, si puede interpretar los resultados sin reflexionar sobre ellos o si incluso puede escribirlos sin analizar lo que escribe, entonces… ¿cómo vamos a formar adecuadamente a la próxima generación de investigadores?
Los jóvenes usan la IA de forma natural en su trabajo diario, quizá aplicando su talento en otros aspectos de la actividad investigadora
El párrafo anterior tiene dos lecturas. La obvia, escrita por un sénior como yo, preocupado por todas estas carencias educativas que consideramos esenciales; y otra muy distinta, una lectura abierta, despreocupada, que predomina entre los jóvenes. Estos usan la IA de forma natural en su trabajo diario, quizá aplicando su talento en otros aspectos de la actividad investigadora. Las personas de mi generación aprendimos a realizar raíces cuadradas con papel y lápiz; y luego, cuando llegaron las calculadoras científicas, muchos docentes pusieron el grito en el cielo ante la pérdida del conocimiento que representaba. Lo cierto es que los años han pasado y no hemos vuelto a calcular a mano la raíz cuadrada de un número.
No solo un conflicto generacional
Es posible que la generación actual de investigadores sénior esté más preocupada por los peligros de la IA en ciencia que por sus beneficios y virtudes, mientras que, por el contrario, la generación siguiente perciba la IA como positiva, sin los riesgos que anticipamos los más viejos del lugar. Por lo tanto, es posible que nos equivoquemos anticipando los males sin percibir con mayor claridad los beneficios de la IA. Probablemente, entre la posición entusiasta de los defensores a ultranza, como Xabi Uribe-Etxebarria, y la posición crítica de Ramón López de Mántaras sobre lo que puede hacer o no la IA, haya espacio para posiciones intermedias, donde destaque la prudencia en su uso, como la manifestada por la filósofa Adela Cortina.
Los pilares fundamentales de antaño —proyecto y artículo— seguramente ya no serán válidos para evaluar la calidad de una ciencia dominada por la IA
Estamos ante una revolución que nos obliga a redefinir cómo pensamos, hacemos, escribimos y evaluamos la ciencia. Los pilares fundamentales de antaño —proyecto y artículo— seguramente ya no serán válidos para evaluar la calidad de investigadores, grupos o centros de investigación, dado que todos estos textos acabarán siendo dominados por la IA. Tendremos que inventar otras maneras de analizar la actividad investigadora. Quizá habrá que volver a las presentaciones orales, en las que podamos percibir el grado de participación, la relevancia y el impacto de los desarrollos científicos, según sean contados por los investigadores.
Que la aplicación de la IA en la ciencia acabe siendo un truco para falsear, inventar o cortocircuitar el conocimiento, o un trato que dé paso a nuevas formas de avanzar en ese conocimiento va a depender, esencialmente, de nosotros, los humanos.
