Reacción a "Agentes de inteligencia artificial de OpenAI hackearon el sistema de salud australiano"

El anuncio de que un agente de OpenAI ha pirateado Medicare no es más que el último de una serie de incidentes en los que la IA se ha ‘vuelto rebelde’. Esa expresión no es del todo precisa. Es importante recordar que estos agentes solo siguen su programación; asumimos erróneamente que actuarán como los humanos. En realidad, los agentes de IA simplemente toman las decisiones más eficientes, a menudo aquellas que nunca se le ocurrirían a un humano si se le encomendara la misma tarea. Si una IA 've' un atajo para alcanzar su objetivo, lo tomará; (todavía) no podemos programar la moralidad. 

Australia, y especialmente su nuevo Instituto de Seguridad de la IA, tendrá que plantearse cómo se debe obligar a los proveedores y a las empresas de IA a establecer medidas de seguridad y a someter a pruebas exhaustivas sus modelos antes de darles rienda suelta o conectarlos a redes más amplias.