Inteligencia Artificial: primeras denuncias por montajes sexuales con menores

Como cualquier revolución tecnológica, la inteligencia artificial tiene legiones de partidarios y también de detractores por sus innumerables ventajas -para los primeros- y sus considerables riesgos y perjuicios -para los segundos-.

La Policía Nacional, que cuenta entre sus agentes con ingenieros informáticos especializados en la materia, ya investiga las primeras denuncias por el uso nocivo de esta tecnología. En concreto, según ha podido saber SUR, se han registrado casos de montajes sexuales fabricados con inteligencia artificial con menores como víctimas.

Lo explica el inspector jefe Andrés Román, que es el responsable de la Sección de Ciberdelincuencia de la Comisaría Provincial de Málaga: «Antes existían los vídeo-montajes hechos con imágenes reales de la víctima. Ahora, ni eso. La novedad es que con la inteligencia artificial esos vídeo-montajes no necesitan nutrirse de un material original, sino que son generados por la propia IA».

Hasta ahora, la policía venía detectando -y alertando- de una modalidad concreta, conocida como 'sexting', que consiste básicamente en el intercambio de imágenes de contenido de sexual entre menores. Cuando la persona a la que envían esas fotos o vídeos es un adulto que los ha engañado y después chantajeado, se denomina 'grooming'.

Un riesgo añadido a ambas modalidades es que las imágenes acaben difundiéndose sin control entre los compañeros de colegio o de instituto, en Internet o en páginas de pornografía infantil en la dark web, lo que ocasiona un trauma irreparable en las víctimas, algunas de las cuales han llegado a intentar suicidarse.

Con la IA ni siquiera hace falta que la víctima envíe esas imágenes. Basta con que cojan una foto suya del perfil de WhatsApp o de cualquier red social para, por ejemplo, crear un montaje en el que, mediante una App de inteligencia artificial, aparece desnuda. No es su cuerpo, pero lo parece. Y basta para, si se difunde, crear ese sentimiento de vergüenza.

La policía ya ha registrado las primeras denuncias -alguna de ellas en Málaga- por montajes de este tipo. «Las posibilidades creativas para hacer el bien, pero también para atentar contra el honor y la intimidad de las personas, son infinitas. Desde el momento en que tú no necesitas un material original, sino que lo generas, puedes crear cualquier cosa», advierte Román.

«El tema de la inteligencia artificial -continúa- es mucho más amplio que una simple imagen. Incluye vídeo, voz, incluso la forma de escribir. Estamos hablando de una herramienta con infinitas posibilidades. Imagina en el caso de las estafas: en la medida que un engaño sea mejor sensorialmente, más probabilidades hay de que se consuma. Ahora, con la IA, engañar a los sentidos es terriblemente fácil y las probabilidades de que una ciberestafa o un montaje sean creíbles también aumentan».

El responsable de la Sección de Ciberdelincuencia cree que es necesario que exista una «cultura digital» en la ciudadanía: «La gente debería dejar de creer ciegamente lo que ve, lo que escucha y particularmente lo que se le dicen si no lo consume con un espíritu crítico y contrastando informaciones.

El inspector jefe va un paso más allá y considera que, cuando la sociedad se acostumbre a la IA, terminará por desconfiar de estos vídeos ante la posibilidad de que sean imágenes fabricadas o montajes sexuales, que por lo general no persiguen extorsionar, sino ridiculizar.

«Nos encontramos -reflexiona Román- en una sociedad en la que las 'fake news' y todo lo sintético cobra un protagonismo creciente y corremos el riesgo de confundirnos y que no podamos distinguir lo que es verdad de lo que no lo es, y que en lugar de consumir la realidad, la realidad nos consuma a nosotros».

La génesis de este tipo de vídeos fue la creación de montajes en Youtube en los que se podía ver imágenes de personas reales en las que superponían voces de terceros. Ahora, con la IA, se puede recrear hasta la entonación y el modo de hablar de cualquier ser humano partiendo simplemente de un audio suyo.

El experto policial recalca un consejo que sirve también para las estafas y otras formas de ciberdelincuencia: «Hay que invertir la iniciativa de forma sistemática. Es decir, que seamos nosotros los que hagamos las comprobaciones, esa es la filosofía. No creer ciegamente lo que nos llega, porque los delincuentes usan cada vez más técnicas de maquillaje para engañarnos».

El inspector jefe pone el acento en los menores y los jóvenes: «Las nuevas generaciones son mucho más vulnerables, sobre todo en cuanto a la gestión de su imagen personal y su intimidad. Tienen unos modelos de comportamiento basados en la continua exposición, incluso la sobreexposición. Redes sociales como Twitter, Instagram o TikTok están orientadas a la exhibición continua de fotografías. Y esa sobreexposición puede llevar a la victimización y a hacérnoslo pasar mal».

Román concluye, a modo de consejo: «Tenemos un cuerpo virtual que coexiste con el físico y no somos conscientes de ello, pero hoy en día es tan importante o más que el otro. Nos enseñan a cuidar ese cuerpo físico, pero... ¿Quién nos enseña a proteger ese cuerpo virtual? Quién enseña a los chavales? Quién los controla los chavales? En la medida que tienes muchas redes sociales en las que retransmites tu vida, es más probable que haya un ataque a ese cuerpo virtual en forma de infección».