La creació de contingut pornogràfic fals, fet amb intel·ligència artificial (IA), s’ha disparat en l’últim any, segons dades de l’informe State of deepfakes, elaborat per Home Security Heroes. En concret, entre el 2022 i el 2023 ha agumentat un 464 %: s’ha passat de 3.725 vídeos l’any passat, a més de 22.000 aquest any.
Crear aquest tipus d’imatges, tant en foto com en vídeo, és ràpid i senzill, no calen coneixements informàtics. De moment, no és un delicte específic al Codi penal, però els experts alerten que es vulneren dos grans drets: la protecció de dades i el dret a la intimitat, honor i la pròpia imatge. A més, remarquen que també es vulnera la normativa en compartir-les o difondre-les.
Impacte psicològic real
Els experts alerten que, encara que les imatges no siguin reals, l’impacte que té en les víctimes és molt alt. En aquest sentit, Rocío Pina, professora de la UOC, remarca que “es desinforma, es manipula i es destrueix la reputació de la víctima de la mateixa manera que ho fa la pornovenjança o la sextorsió”.
Encara que sigui amb imatges falses, la sensació de desprotecció, violència i pèrdua de control és real”
D’entre totes les imatges, el 99 % estan protagonitzades per dones, també nenes i joves menors d’edat. Això té un impacte directe en la salut mental de les víctimes, amb conseqüències com ansietat, depresssió, autolesions o fins i tot suïcidi, adverteix Pina. En aquest sentit, segons un estudi de l’Observatori Nacional de Tecnologia i Societat (ONTSI), el 42 % de les nenes i joves que han patit abús per internet mostren estrès emocional, baixa autoestima i pèrdua d’autoconfiança.
Pornografia infantil, també amb IA
La intel·ligència artificial també s’està utilitzant per crear continguts de pornografia infantil i en aquest context un esudi d’Internet Watch Foundation alerta del risc de pujar imatges d’infants vestits a internet. Consideren que hi ha “proves raonables” que s’estan transformant aquestes fotos en continguts pornogràfics. A més, adverteixen que són molt realistes i que “és cada vegada més difícil distingir el contingut real del fals”.
Què puc fer si en soc víctima?
Cristina Pujol, professora de la UOC i investigadora del grup GAME, remarca que “en un context viral com l’actual, en què les imatges circulen molt ràpid, la capacitat de resposta és ínfima respecte al mal causat“. Tot i això, es poden activar diversos mecanismes per intentar evitar-ho.
Per evitar-ne la transmissió, es pot acudir a l’Agència Espanyola de Protecció de Dades, que actuarà en menys de 24 hores. També cal posar una denúncia a la policia per identificar-ne el creador i perseguir el delicte. I de manera paral·lela, es pot activar la via penal o la via civil, per reclamar danys i perjudicis.
