Este artículo se publicó hace más de 8 meses
Víctimas de la inteligencia artificial

No tenemos tipos penales para castigar la pornografía sintética, ni suficientes medios para hacer las periciales forenses de los teléfonos de las víctimas y los victimarios, ni suficiente personal para tramitar estos procesos con celeridad. Con imponer una limitación de uso a entornos profesionales y virtuosos de las herramientas, solo para desarrolladores conocidos y para productos que no tengan finalidades que atenten contra el orden público, la intimidad ni sean delictivas, sería más que suficiente.

27/09/2023 - 14:28 CEST
 
deepfake

Deepfake. / Adobe Stock

Reconozcámoslo. A pesar de las buenas palabras, las condolencias, e incluso la indignación de salón, a nadie le importan las víctimas. Más allá de personas admirables que se dedican vocacionalmente y con medios muy limitados a confortarlas, acompañarlas, y, cuando es posible, sanarlas, el resto de la sociedad considera a las víctimas una pesadez. Los duelos ante las desgracias cada vez son más cortos y la comprensión ante los efectos de la violencia, el abuso, o la exposición grave de la intimidad prescribe casi con similar rapidez. Con ocasión de las investigaciones de los abusos en la Iglesia Católica, leí a un miembro de la curia afirmar que sí, que a lo mejor no lo habían hecho todo lo bien que cabría esperar, pero que ya estaba bien de la turra de las víctimas, treinta años después, vomitando sus desagradables recuerdos cuando lo que tenían que hacer era superarlo.

Dudo mucho que un cerebro en formación —y aquí debería intervenir alguien con más conocimiento que yo— se recupere de un abuso, de una humillación terrible, de una violencia incomprensible. Estoy convencida que ese cerebro se reprograma, se conecta a partir del trauma y que esa persona es diferente de quien podría haber acabado siendo sin ese dolor profundo. Si el resto de su vida le acompañan adicciones, perfeccionismo enfermizo, problemas para confiar en los demás y un agujero negro de angustia que absorbe cualquier brizna de felicidad, es no solo inútil sino doloroso que se les culpe de falta de disciplina por no saber controlar sus emociones o por no tener el coraje de superarlo.

Las grandes tecnológicas han incorporado el relato humanista como elemento de venta con la misma profundidad que implantan medidas de protección del medio ambiente: si y solo si no perjudican a su negocio

En la corriente humanista del desarrollo tecnológico, se propugna poner al hombre en el centro. Muchas veces me pregunto si ese movimiento se refiere literalmente al hombre, y no a las mujeres o a las víctimas de la tecnología, que en muchos casos, más de los deseables, son las mismas personas. Las grandes tecnológicas, recientemente, han incorporado este relato como elemento de venta con la misma profundidad que implantan medidas de protección del medio ambiente: si y solo si las mismas no perjudican en modo alguno su negocio. Una cosa es gastarse unos dólares sobrantes en hacer el paripé y otra muy diferente que la cuenta de resultados se resienta por tener algo de conciencia.

Los modelos de IA fundacionales, las que son como navajas suizas, que lo mismo te cuelgan un cuadro que te cortan un morcón, no se desarrollaron con el hombre en el centro ni nada que se le parezca. En una de las múltiples conferencias a las que voy por ver si me iluminan algún chacra, un científico de redes neuronales adversariales (las que están tras la generación de imágenes y vídeo) cuyo nombre no recuerdo (algo que me ocurre con frecuencia y que disminuye mi capacidad de ser considerada una persona culta) nos dejó claro que ellos primero desarrollan para que la tecnología funcione, no para que sea justa, ética, auditable ni para que no se permita, por diseño y por defecto, usos no virtuosos. Ese no es su cometido, me vino a decir a mi pregunta, con un cierto tono de “aparta tus sucias manos de abogada blandengue de mis cosas chulas”.

Nadie pensó que liberar las aplicaciones básicas generativas de la IA para su uso universal supondría que mucha gente la utilizaría para hacer el mal, para humillar, molestar o insultar

Esas IAs que, entonces, hacían engendros propios de malas pesadillas, de un día para otro, por el efecto tsunami de estas tecnologías, pasaron a ser capaces de hacer versiones de películas clásicas, de imitar a la perfección la voz de cualquiera y, además, en cualquier idioma no hablado por la persona imitada. Nadie pensó, o alguien lo hizo y decidió ignorarlo, que estas herramientas no debían ser software de consumo al alcance de cualquier desarrollador de apps que pudiera o quisiera conectar su aplicación a la API de la IA y usarla así como una herramienta potentísima para hacer cualquier majadería que se le pasase por la cabeza. Nadie pensó que liberar las aplicaciones básicas generativas de la IA para su uso universal supondría que mucha gente la utilizaría para hacer el mal, para humillar, molestar o insultar. Sus gabinetes de PR siempre podrían echar la culpa a la naturaleza humana y a unos usuarios a que se empeñan en usar mal tecnología hecha para el amor

Y, por supuesto, nadie pensó en las menores de Almendralejo, ni en que los menores, compañeros suyos de colegio, amigos cercanos, sacarían los peores instintos de la adolescencia y, gracias a una herramienta que no debería haber estado a su disposición, les han partido la vida. Y no, no en un juego de niños, sino en un antiguo ritual jerárquico de humillación a las mujeres que persigue encerrarnos en el domicilio de donde nunca deberíamos haber salido.

Nadie pensó en las menores de Almendralejo, ni en que los menores, compañeros suyos, amigos cercanos, sacarían los peores instintos de la adolescencia y, gracias a una herramienta que no debería haber estado a su disposición, les han partido la vida

Esas menores no son las primeras, ni las únicas, de las muchas víctimas que veremos pasar por las noticias llenas de una indignación de corta caducidad, a las que se les recomendará acudir a los tribunales para ser revictimizadas de nuevo sin remisión. Porque no tenemos tipos penales para castigar la pornografía sintética, ni suficientes medios para hacer las periciales forenses de los teléfonos de las víctimas y los victimarios, si es que se les llega a identificar, ni suficiente personal para tramitar todos estos procesos con la celeridad que merecen. Todos ellos, y ojalá me equivoque, acabarán en un archivo, en las risas de los agresores por haberse librado, esa peligrosa impunidad que anima a repetir y a abusar aún más de las víctimas. Y a las víctimas se les dirá que lo superen, que no van a estar toda la vida quejándose de lo mismo. O se pensará.

Lo que me lleva a afirmar que lo mejor es que no haya víctimas, en primer lugar. Y, aunque no lo parezca, eso es algo que es perfectamente factible sin cambios estructurales. Hace menos de un año vivíamos sin las IA generativas, nadie puede argumentar que le va la vida en usarlas. Con imponer una limitación de uso a entornos profesionales y virtuosos de las herramientas web, y del uso de la API solo para desarrolladores conocidos y para productos que no tenga finalidades que atenten contra el orden público, la intimidad ni sean delictivas, sería más que suficiente. Las niñas de Almendralejo lo habrían agradecido.

Image
paloma llaneza
Sobre el/la autor/a: Paloma Llaneza

Abogada, auditora de sistemas, consultora de seguridad experta en los aspectos legales y regulatorios de internet y CEO de Razona Legaltech, consultora tecnológica experta en identidad digital

Las 5W +1
Publica
FAQ
Contacto