David Parry
Se trata de un incidente muy grave, no porque se haya accedido a datos de pacientes —algo que, al parecer, no ha ocurrido—, sino porque el agente estaba atacando sitios web sin consentimiento. La diferencia entre buscar información en la web —que es lo que llevan haciendo los rastreadores como Google desde hace más de veinte años— y aprovechar activamente vulnerabilidades para acceder a información no pública resulta muy clara para los seres humanos, pero al parecer no lo es para estos agentes.
La diferencia entre asomarse al escaparate de una tienda, llamar al timbre y probar la puerta para ver si está abierta, y colarse por una ventana abierta nos resulta obvia, pero estos agentes aún no lo han aprendido.
Aunque estoy seguro de que OpenAI se disculpará y limitará en parte este comportamiento, estos modelos ya están ahí fuera y los delincuentes, los curiosos y los Estados extranjeros no serán tan benévolos. Es muy posible que enseñar modales —un comportamiento adecuado— a estos agentes sea, en realidad, una tarea más difícil de lo que prevemos. Es una llamada de atención para que las organizaciones mejoren sus pruebas de ciberseguridad; el Gobierno debería apoyar esta iniciativa y, además, reducir la información confidencial que posee y que no necesita.