Este artículo se publicó hace más de 9 meses
Reacción: los deepfakes de voz engañan a los humanos incluso aunque se entrenen para detectarlos

Los deepfakes de voz son voces sintéticas producidas por modelos de aprendizaje automático que pueden parecerse a voces humanas reales. Una investigación publicada en PLoS ONE que contó con medio millar de participantes muestra que estos consiguieron identificar correctamente que no eran voces reales el 73 % de las veces. Los resultados del estudio —realizado en inglés y en mandarín— mostraron solo una ligera mejoría en aquellas personas que fueron entrenadas específicamente para detectar estos deepfakes. 

02/08/2023 - 20:00 CEST
 
Reacciones

Fernando Cucchietti - deepfakes

Fernando Cucchietti

Responsable del grupo de Análisis y Visualización de datos del Barcelona Supercomputing Centre (BSC-CNS)

Science Media Centre España

Creo que el estudio está bien hecho y es sólido, aunque el rango de aplicación de los resultados es algo limitado. En particular, las condiciones donde se hicieron los experimentos son muy de laboratorio, en el sentido de que no son realistas para situaciones donde los deepfakes puede ser problemáticos, por ejemplo, si conoces a la persona que están imitando.  

Las conclusiones, en ese sentido, pueden ser un poco exageradas, pero también es cierto que coinciden con otros estudios alternativos y similares. Es un estudio muy puntual con condiciones muy concretas, lo cual es bueno porque quiere decir que los resultados están menos afectados por otros factores, por ejemplo, prejuicios o sesgos previos como en el caso de los estudios de desinformación; pero también significa que en otros contextos no tienen por qué aplicarse completamente. 

No declara conflicto de interés
ES
Publicaciones
Warning: Humans cannot reliably detect speech deepfakes
  • Artículo de investigación
  • Revisado por pares
  • Estudio experimental
  • Humanos
Revista
PLoS ONE
Fecha de publicación
Autores

Kimberly T. Mai et al.

Tipo de estudio:
  • Artículo de investigación
  • Revisado por pares
  • Estudio experimental
  • Humanos
Las 5W +1
Publica
FAQ
Contacto