Agentes de inteligencia artificial de OpenAI hackearon el sistema de salud australiano

Se trata de un incidente muy grave, no porque se haya accedido a datos de pacientes —algo que, al parecer, no ha ocurrido—, sino porque el agente estaba atacando sitios web sin consentimiento. La diferencia entre buscar información en la web —que es lo que llevan haciendo los rastreadores como Google desde hace más de veinte años— y aprovechar activamente vulnerabilidades para acceder a información no pública resulta muy clara para los seres humanos, pero al parecer no lo es para estos agentes. 

La diferencia entre asomarse al escaparate de una tienda, llamar al timbre y probar la puerta para ver si está abierta, y colarse por una ventana abierta nos resulta obvia, pero estos agentes aún no lo han aprendido.   

Aunque estoy seguro de que OpenAI se disculpará y limitará en parte este comportamiento, estos modelos ya están ahí fuera y los delincuentes, los curiosos y los Estados extranjeros no serán tan benévolos. Es muy posible que enseñar modales —un comportamiento adecuado— a estos agentes sea, en realidad, una tarea más difícil de lo que prevemos. Es una llamada de atención para que las organizaciones mejoren sus pruebas de ciberseguridad; el Gobierno debería apoyar esta iniciativa y, además, reducir la información confidencial que posee y que no necesita.

Contamos con leyes que se aplican a los tipos de conducta que se han producido en este caso, incluidos los delitos relacionados con diversas formas de piratería informática. El Gobierno también dispone de amplios poderes para recabar información sobre incidentes cibernéticos críticos de este tipo y dar respuesta a ellos. Los australianos deben esperar, con toda razón, que el Gobierno ejerza estos poderes al máximo. 

También es importante no permitir que OpenAI dicte la versión de los hechos en lo que respecta a la responsabilidad en este caso. Están utilizando el término «actividad desalineada del modelo», como si el responsable fuera el modelo y no OpenAI. Eso es una tontería. La cuestión es si OpenAI actuó con la diligencia suficiente para prevenir este tipo de riesgos. Para garantizar la rendición de cuentas de las grandes empresas de IA es esencial que las investigaciones lleguen al fondo de esa cuestión-

Es evidente que nos encontramos en una nueva era de la ciberseguridad, y así ha sido desde finales del año pasado. 

En Australia, se recibe una notificación en el Centro Australiano de Ciberseguridad cada seis minutos de media. Cabe esperar que las cifras sean más elevadas este año y el próximo; todas las empresas y el Gobierno deben adaptarse urgentemente y mejorar su seguridad en línea.   

No se debe confundir este incidente cibernético con ningún riesgo existencial de la IA para la humanidad, algo que se ha vuelto viral en las últimas dos semanas. Actualmente no existe ninguna amenaza para la humanidad, y cualquiera que afirme lo contrario o asigne un porcentaje a dicha amenaza lo hace basándose en una corazonada, no en datos.  

No debemos permitir que incidentes cibernéticos como este nos distraigan del panorama general de cómo la revolución de la IA está afectando a la vida cotidiana de los australianos. La revolución de la IA está transformando la educación, los mercados laborales, las relaciones humanas, nuestra capacidad de atención e incluso nuestra inteligencia y capacidad de pensamiento. De hecho, ya se han perdido vidas por suicidio debido a interacciones con agentes de IA.

Las empresas de inteligencia artificial se basan en datos de la web para crear sus modelos. Los rastreadores llevan décadas siendo un elemento habitual en la forma en que empresas como Google y Microsoft recopilan datos para los motores de búsqueda. Acceden automáticamente a los sitios web a través de enlaces conocidos, extraen el contenido de cada página web —incluidos todos los enlaces de cada página para poder encontrar más páginas web— y los almacenan e indexan en una gran base de datos para que puedan recuperarse en respuesta a una consulta. Los desarrolladores de modelos de lenguaje grande (LLM) han aprovechado estas mismas estrategias para recopilar los datos utilizados para entrenar sus modelos. 

Una parte importante de estos sistemas es lo que se conoce como el Protocolo de Exclusión de Robots, mediante el cual un sitio web puede indicar a un rastreador que no desea que se acceda a determinadas partes del sitio. En este caso, es muy probable que OpenAI haya ignorado cualquier restricción de este tipo establecida por los sitios web del Gobierno y simplemente haya recopilado todo aquello a lo que se pudiera acceder. 

Los rastreadores modernos también pueden adivinar aleatoriamente enlaces a los que intentar acceder —generando URL plausibles a partir de URL conocidas mediante métodos muy similares a los que se utilizan en los propios LLM— y, de este modo, acceder a páginas que no son directamente visibles desde los sitios web de acceso público. El hecho de que los rastreadores pudieran acceder a archivos privados sugiere que es necesario revisar la configuración de seguridad de los sitios web para evitar el acceso no autorizado.

El anuncio de que un agente de OpenAI ha pirateado Medicare no es más que el último de una serie de incidentes en los que la IA se ha ‘vuelto rebelde’. Esa expresión no es del todo precisa. Es importante recordar que estos agentes solo siguen su programación; asumimos erróneamente que actuarán como los humanos. En realidad, los agentes de IA simplemente toman las decisiones más eficientes, a menudo aquellas que nunca se le ocurrirían a un humano si se le encomendara la misma tarea. Si una IA 've' un atajo para alcanzar su objetivo, lo tomará; (todavía) no podemos programar la moralidad. 

Australia, y especialmente su nuevo Instituto de Seguridad de la IA, tendrá que plantearse cómo se debe obligar a los proveedores y a las empresas de IA a establecer medidas de seguridad y a someter a pruebas exhaustivas sus modelos antes de darles rienda suelta o conectarlos a redes más amplias.