La Policía Nacional investiga a siete menores en Almendralejo, (Extremadura) por crear desnudos con un app de inteligencia artificial (IA) usando las caras de una veintena de chicas de entre 11 y 17 años de su municipio y alrededores. El caso, que está ya en manos de la Fiscalía de Menores, es el primero de una denuncia masiva en España de porno no consentido por IA que afecta a chicas menores de edad, pero esta práctica es cada día más habitual contra muchas mujeres.
Miriam Al Adib, madre de dos de las niñas afectadas por la difusión de sus ‘desnudos’ creados, de 14 y 17 años, y portavoz del grupo de 27 madres de Almendralejo confirma a 20minutos que todos los investigados, «los que están detrás de las fotos que han hecho daño a nuestras hijas», son menores de edad. Confiesa Al Adib que no saben todavía cuál será su estrategia jurídica, que no tienen ni abogado, pero solicita que se investiguen bien los hechos. Asegura que lo que buscan las madres que se han unido para dar publicidad a sus denuncias es «una ola de indignación», pero sobre todo «que los que lo han hecho y el resto de los jóvenes sepan que esto es un delito y aprendan. Que a nivel educativo saquemos en claro algo para mejorar».
España no tiene una ley específica que regule el porno no consentido creado a través de Inteligencia Artificial, también llamado ‘deepfake‘. Una situación que solo este verano han denunciado varias famosas, como Laura Escanes o Rosalía, y que consiste en crear desnudos de gran verosimilitud utilizando partes del cuerpo reales de las víctimas.
En la tramitación parlamentaria de la Ley del Sí es Sí, a petición de Pilar Calvo, de Junts, se intentó introducir una modificación en el Código Penal que incluyese la pena de prisión de seis meses a dos años a quien utilizara porno no consentido creado con IA, pero la petición resultó rechazada por una mayoría PP-PSOE que no lo consideró oportuno.
La UE tampoco ha legislado sobre estos deepfake sexuales creados y difundidos sin consentimiento, dejando hasta ahora la decisión a cada estado. En EE UU, sin embargo, territorios como Virginia, Nueva York, California o Minnesota disponen de leyes que multan con un año de cárcel y 2.500 dólares a quien «con intención de coaccionar, acosar o intimidar» difunda falsos desnudos de mujeres reales.
Que no exista una ley que persiga esta tecnología no significa que los menores extremeños que hicieron porno con fotos de chicas del pueblo y las difundieron, en algún caso con intención extorsionadora, salgan indemnes. Pero ¿qué delitos habrían cometido?
Hay juristas que defienden que, concretamente este caso, podría llegar a ser considerado un delito de «pseudo pornografía infantil».
En la llamada pseudo pornografía infantil no se utiliza realmente al menor, sino que se abusa de su imagen manipulándola con artificios técnicos, dice la ley. Concretamente afecta a quien produce, vende, distribuye, exhibe o facilita por cualquier medio material pornográfico en el que no habiendo sido utilizados directamente menores, se emplee su imagen alterada o modificada.
«El delito, contemplado en el artículo 189 de código penal, establece condenas de hasta nueve años de prisión por pseudopornografía con el agravante de que algunas víctimas son menores de 16 años», expone Borja Adsuara, abogado experto en derecho digital. «Eso sí, como los autores también son menores, y no se va a la cárcel hasta los 18, como mucho irán a un centro de delincuentes juveniles».
Sin embargo, la Fiscalía General del Estado establece que «en todo caso, para poder considerar penalmente trascendente este tipo de material, será necesario, como en el caso de la pornografía virtual, que sea realista, que trate de aproximarse a la realidad, quedando excluidos del concepto de pornografía infantil los materiales que por su tosquedad revelen su condición de montaje».
Por otra parte, el que hubiera usado esas imágenes para extorsión, que es el caso de al menos una víctima entre las denunciantes en Almendralejo, también incurre en el delito contemplado en el artículo 243 del Código Penal, agrega Adsuara.
«Ahora serán los abogados los que planteen todos los delitos que puedan derivarse de los hechos, según los derechos vulnerados (secretos revelados, art. 197, integridad moral, art. 173, el derecho a la imagen, al honor, de injurias o a la libertad si te extorsionan…) y el juez dictaminará finalmente qué aplica», explica Adsuara. «Incluso aunque el montaje sea burdo es injurioso, porque te ofende. El derecho a la propia imagen existe. Y si la caricatura, dentro de los usos sociales, se admite, esto en ningún caso, porque resulta injurioso», insiste.
Además de la vía penal, las madres de Almendralejo podrían recurrir a la vía administrativa bajo el amparo de la Ley de Protección de Datos. Fuentes de la Asociación Española de Protección de Datos (AEPD) explican a 20minutos «que los padres y madres e incluso las propias menores pueden denunciarlo en el Canal Prioritario indicando las URLs donde se están colgadas esas imágenes, de forma que la Agencia pueda exigir su retirada urgente».
El asunto crucial para la agencia es que se ha utilizado la cara de las chicas, «que es un dato personal», explican. La retirada urgente de las imágenes es independiente de la denuncia planteada ante la Policía. Si con posterioridad a raíz de lo hechos concretos se inicia un procedimiento sancionador los autores podrían ser multados con hasta 10.000 euros, que en caso de que los autores sean menores de edad deberán abonar sus padres.
Antecedentes con famosas
Los juristas explican que aún no ha llegado al Tribunal Supremo ningún caso por porno no consentido creado con Inteligencia Artificial, por lo que no hay jurisprudencia. Sin embargo, los montajes con el cuerpo de las mujeres se vienen haciendo desde hace años. «En los años noventa a Shakira se le hacían con photoshop y ella misma, asesorada, decidió no denunciarlos para no darles más difusión», recuerda Adsuara.
Solo este verano, Laura Escanes y Rosalía han denunciado la publicación de desnudos trucados con IA. A Escanes, como a las chicas de Almendralejo se les ha afeado que suban fotos sexis en sus redes sociales. Escanes dejó claro que lo relevante es que las imágenes creadas no tienen su consentimiento. El experto en derecho digital Borja Adsuara pone como ejemplo más cercano de jurisprudencia el caso de un soldado que fue condenado por el Supremo en 2020 por compartir una foto de una mujer que se parecía mucho a una compañera en un grupo de whatsapp.
