La consideración de las 'deepfakes’ sexuales como nueva forma de violencia sexual plantea retos técnicos, éticos y legales. ¿Con base en qué elementos deberíamos definir qué consecuencias debe acarrear esta conducta?
— Rosalía, tras las fotos manipuladas que la mostraban desnuda: “El cuerpo de una mujer no es una mercancía para tu estrategia de marketing”
Rosalía, hace unos días, después de que un rapero divulgara un nude suyo ficticio, denunciaba vía Twitter que esta práctica era una forma de violencia y que los cuerpos de las mujeres no eran un objeto de consumo.
Las violencias sexuales mediante las nuevas tecnologías están a la orden del día. Frente a este fenómeno, el Tribunal Supremo ha venido realizando una labor interpretativa muy innovadora. En 2021 castigó por primera vez la “violación online”, en un supuesto de ciberintimidación, en el que el agresor logró que las adolescentes realizaran conductas sexuales indeseadas, consistentes en la introducción de miembros u objetos en sus propios cuerpos, acciones que este contemplaba a través de las pantallas. Estos precedentes jurídicos están ayudando a dejar atrás la limitada concepción de la violencia sexual como acceso físico indeseado, para avanzar hacia el paradigma más amplio del respeto a la libertad sexual.
Este es el prisma desde el que tenemos que analizar las nuevas formas de violencia sexual, como las cometidas mediante la Inteligencia Artificial. La Inteligencia Artificial generativa ya está consiguiendo crear voz, imagen o vídeo con un grado tan alto de sofisticación que consigue persuadir sobre su autenticidad, de ahí su nombre, deepfakes.
A nivel europeo, la propuesta de ley de Inteligencia Artificial está teniendo en cuenta la necesidad de regular las deepfakes, estableciendo una serie de exigencias de transparencia a su creación. Mientras tanto, la ciudadanía no está teniendo al abasto herramientas para chequear la veracidad de estas creaciones, que ya están circulando por doquier, y la sociedad sigue muy apegada a la creencia de que lo que se puede ver, es cierto. Este poder de convencer sobre la veracidad de algo que es falso no puede subestimarse, ya que tiene una enorme capacidad de incidir en la formación de la opinión pública y en la creación de realidad social.
La consideración de las deepfakes sexuales como nueva forma de violencia sexual, plantea retos técnicos, éticos y legales. ¿En base a qué elementos deberíamos definir qué consecuencias debe acarrear esta conducta?
Quien crea estas deepfakes sexuales sabe que está creando un producto comunicativo falso, que son una forma de engaño y manipulación y que no cuenta con el consentimiento de la mujer. También sabe del efecto social que va a provocar su divulgación. Sus objetivos pueden variar mucho, puede consistir en una estrategia de marketing como en el caso de Rosalía, en un ataque a una periodista crítica, en un acto de violencia contra la expareja, en un intento de desacreditar a una denunciante de violencia sexual, o en un acto de denigración misógino, entre otros muchos. Lo que sí será un denominador común será la intención. Divulgar la representación de los cuerpos y contenidos sexuales todavía consigue tener un devastador poder de represalia, descrédito, desprestigio y estigma de las mujeres. A esta dinámica patriarcal se le añade el hecho de que en la era de la posverdad, la distinción entre lo cierto y lo falso cada vez tiene menos valor social.
La llamada ley del 'solo sí es sí', en su trámite de enmiendas, perdió la oportunidad de regular como delito sexual las deepfakes a pesar de que una formación política lo propuso, pero sí asentó unos muy buenos cimientos para abordarlas en un futuro próximo, colocando el consentimiento sexual como elemento estructural del delito e incorporando por primera vez el concepto de daño social en las violencias sexuales.
Actualmente, los recursos legales frente a las deepfakes no son demasiado operativos. Una primera duda es si los tribunales tendrán la capacidad de determinar cuándo una imagen o vídeo ha sido creado mediante inteligencia artificial y por lo tanto es “falso”. Una segunda consideración es la de si los tribunales sabrán comprender que se trata de una forma de violencia contra las mujeres y que es grave. Y una tercera consideración es la de si contamos con infracciones que sean aplicables a esa conducta. Por el momento, en los delitos del Código Penal como el de divulgación inconsentida de imágenes sexuales, no le puede ser de aplicación porque está pensado para imágenes reales. El delito de stalking, consistente en la creación de perfiles falsos en las redes sociales o en webs de contactos, provocando el acoso o la humillación de la mujer, también le sería difícilmente de aplicación. En casos muy específicos, según el objetivo de la deepfake, podría acudirse a otros delitos como el de injurias, el de propiedad intelectual, el de coacciones o el de obstrucción a la justicia, entre otros. Por lo tanto, de momento, en sede penal, solo podríamos acudir al delito genérico contra la integridad moral. Otra opción sería acudir a otras jurisdicciones, como la normativa administrativa de protección de datos o la jurisdicción civil, de tutela al honor, la intimidad y la propia imagen.
Lo cierto es que urge innovar y que crear nuevos delitos para esta nueva forma de violencia sexual, no será suficiente. Se tendrá que realizar una reforma más profunda, de carácter conceptual. Será necesario repensar conceptos como el de privacidad, violencia, libertad, honor o dignidad, en un nuevo contexto social en el que el ámbito virtual, por mucha ficción que incorpore, es real, desde el momento en que lo son las consecuencias de las interacciones que se dan en él.
Lo que resulta claro es que la respuesta social y jurídica a las deepfakes no puede considerarlas un fenómeno de menor gravedad por el hecho de que se trate de creaciones ficticias, dado que estas también tiene la capacidad de causar un grave daño social a las mujeres. Posicionamientos públicos como el de Rosalía empujan a la sociedad a identificar estas nuevas formas de violencia sexual y a entender que el consentimiento sexual debe respetarse más allá de la esfera física.
Autora: Laia Serra @Laia_Serra_
Fotografía: Rosalía en el concierto de Mallorca el pasado agosto Isaac Buj / Europa Press / Archivo