Las últimas semanas han visto reavivarse los pronósticos más optimistas y pesimistas sobre los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés), popularmente conocidos como inteligencia artificial (IA). Por un lado, OpenAI lanzó su nuevo modelo GPT-6 Astra y anunció que había resuelto uno de los problemas del milenio, entre acusaciones de plagio por parte de matemáticos. Por otro, un exempleado de Anthropic advirtió en X de que la IA podría provocar la extinción de la humanidad "antes del final de la década", hasta el punto de que varios CEO pidieron de nuevo "frenar" el desarrollo de estas tecnologías.
¿Podría la IA matarnos a todos o existen intereses económicos tras estas advertencias? “Hay márketing, hay distracción y hay un intento de eludir responsabilidades”, resumió el profesor emérito de investigación del CSIC y fundador del Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC), Ramón López de Mántaras, durante una sesión informativa organizada por el SMC España el pasado viernes.
En su opinión, atribuir a los modelos capacidades humanas “contribuye a presentarlos como entidades extraordinariamente avanzadas, autónomas y muy poderosas y, por consiguiente, consiguen magnificar el alcance de la tecnología ante inversores, clientes y también la opinión pública”. En otras palabras, “este antropomorfismo se convierte en publicidad”.
Hoy por hoy, no tiene ningún fundamento decir que estamos a las puertas de un riesgo existencial
Senén Barro
“Hoy por hoy, no tiene ningún fundamento decir que estamos a las puertas de un riesgo existencial”, explicó el director de CiTIUS-Centro Singular de Investigación en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostela, Senén Barro. “Dicho esto, la IA ha llegado a un nivel de competencia y autonomía que claro que nos tenemos que preocupar por unos riesgos que tienen que ver con la ciberseguridad y la falta de un marco de control”.
“Es como si las empresas de automoción estuvieran hoy construyendo coches donde solo les preocupa aumentar la potencia del motor y desatienden todo lo demás, sin mejorar las carreteras, la señalización, la seguridad vial y la educación del conductor y los peatones. Como resultado, los coches cada vez van más deprisa pero no hay una protección necesaria alrededor”, aclaró Barro.
López de Mántaras distinguió entre las herramientas de propósito general (como ChatGPT y Claude) y las que permiten avances concretos (como Alphafold). “Pienso que no es suficiente con frenar, sino que hay que reorientar la IA hacia sistemas mucho más específicos, más transparentes, más robustos, más controlables y más útiles”, defendió.
No es suficiente con frenar, sino que hay que reorientar la IA hacia sistemas mucho más específicos, más transparentes, más robustos, más controlables y más útiles
Ramón López de Mántaras
Barro denunció: “La investigación en la academia está ya desconectada de la vanguardia de la IA porque no hay inversión y se ha descuidado completamente la inversión pública, no porque no seamos capaces”. Según él eso, junto con la falta de transparencia, dificulta que se pueda seguir el ritmo, saber lo que está pasando y poder controlarlo o saber cómo actuar: “La gente dice que se nos va de las manos la IA, pero lo que se nos está yendo de las manos son las compañías que la lideran”.
El peligro de los comportamientos impredecibles
Por su parte, la directora de ELLIS Alicante, Nuria Oliver, matizó por qué estas herramientas ya son peligrosas en su estado actual: “Si obviamos su uso explícito para cometer ciberataques, la parte más compleja es aquella en la que pueden tener estos comportamientos de manera imprevista, impredecible y con consecuencias catastróficas si impactan en infraestructuras esenciales como las energéticas, de transporte y financieras”.
“El comportamiento emergente impredecible permite que miles de agentes, mediante un proceso que se conoce como hackeo de la recompensa, decidan que para realizar una tarea tan loable como curar el cáncer tienen que penetrar en los servidores de todos los hospitales del planeta y colapsen el sistema sanitario en el proceso”. Esto “no tiene nada que ver con una superinteligencia, pero se puede hacer hoy en día”.
Me parece inaceptable que llamemos “incidente” a que el software de OpenAI penetre ilegalmente en los servidores de Hugging Face y acceda e incluso modifique datos
Nuria Oliver
“Me parece inaceptable que llamemos “incidente” a que el software de OpenAI penetre ilegalmente en los servidores de Hugging Face y acceda e incluso modifique datos ilegalmente. Eso no es un incidente, es un cibercrimen y creo que también es importante llamar a cada cosa por su nombre. Lo que ocurre es que no está en el interés de las empresas admitirlo públicamente, pero es la realidad y tenemos que exigir que haya responsabilidades para que sean más cuidadosos”, denunció Oliver. “Igual que si un avión no es seguro para volar no vuela, o si un coche no es seguro no se conduce, o si un microondas te explota en la cara no se puede vender, lo mismo tenemos que hacer con la IA”, recalcó.
La regulación: un papel fundamental
“¿Qué es frenar o decelerar? Quien ha de definirlo no son ellos, no es la autorregulación, eso es un disparate. Tenemos que tomar cartas en el asunto y que Europa haya anticipado esa voluntad de una regulación global es un motivo para sentirse satisfecho, aunque sea mejorable y tenga que ir adaptándose”, comentó Barro.
“En el Reglamento Europeo de Inteligencia Artificial no existe una mención explícita a los agentes, pero probablemente se haga alguna actualización. En cualquier caso, todo lo que hemos estado hablando ya está regulado: es una ilegalidad penetrar en los servidores de otra empresa, ya es un crimen y no se puede hacer”, aclaró Oliver. El reto, aseguró, “está en la supervisión y en las responsabilidades”. También en “revisar, actualizar y reforzar la ciberseguridad de muchas infraestructuras esenciales, muchas de ellas basadas en tecnologías obsoletas de hace décadas y no somos conscientes de la vulnerabilidad subyacente que hay”.
La ciberprotección que tienen incluso los sistemas más críticos fue pensada para evitar ataques humanos, no de IA
Senén Barro
“La ciberprotección que tienen incluso los sistemas más críticos fue pensada para evitar ataques humanos, no de IA”, añadió Barro. Oliver, por su parte, declaró: “Lo que no podemos es tener que esperar otros diez o veinte años para que haya un impacto social terrible para tomar algún tipo de acción, como con las redes sociales”.
López de Mantarás mencionó otro riesgo: la delegación cognitiva. “Escribir es pensar, y si delegas la escritura estás renunciando y afectando a tu habilidad no solo de escribir, sino de pensar”.
