Entre todas las miles de preocupaciones que me genera el uso irresponsable de la Inteligencia Artificial (IA), hay una que me atraviesa y mueve fibras sensibles: el uso de IA para la creación de material íntimo no consensuado. Me preocupa por mí, por mis colegas, por mis amigas, por las jóvenes, y por mis sobrinas que apenas empiezan a vivir en un mundo donde su imagen puede ser vulnerada con un solo clic.
La primera vez que leí sobre las mal llamadas “deepnudes” fue en 2021, con un artículo sobre la poeta británica Helen Mort, donde Helen descubrió que fotografías tomadas de sus redes sociales habían sido utilizadas para generar pornografía falsa sin su consentimiento. Lo que siguió para ella fue una combinación de humillación, miedo y falta de apoyo institucional. Ese mismo año encontré otro reportaje sobre un sitio web que permitía crear videos pornográficos con solo subir una fotografía.
Desde 2021 estamos hablando de estO. Y ni siquiera había ocurrido el boom de la IA generativa, la cual solo vino a agravar una situación ya crítica. ¿Y qué ha pasado en todos estos años? Que los casos siguen aumentando, pero seguimos sin tener medidas efectivas. Hoy, el 98% de los deepfakes se utilizan con fines de abuso sexual, afectando en un 99% a mujeres. Las principales víctimas son mujeres comunes, como tú y yo, estudiantes, profesionistas, niñas, cualquier mujer cuya imagen esté disponible en línea.
En México, las alumnas del Instituto Politécnico Nacional, se enfrentaron, en 2024, a la difusión de más de 100,000 fotografías y 20,000 videos alterados con IA para fines sexuales. Lo más desesperanzador no fue solo la cantidad de material que se encontró, sino la respuesta institucional. Este caso tenía el potencial de marcar un precedente histórico, no solo en México, sino a nivel mundial, al establecer la primera sentencia por el uso de IA para aplicación de violencia digital.
El principal agresor fue absuelto por un juez, quien argumentó que no había elementos suficientes para acreditar su responsabilidad en el delito contra la intimidad sexual. Aunque, sí fue sentenciado por trata de personas en modalidad de pornografía infantil.
Esto confirma que, a pesar de los enormes esfuerzos de Olimpia Coral y de muchas otras activistas y colectivas feministas para impulsar leyes contra la violencia digital, todavía no es suficiente y la realidad lo demuestra. El mes pasado tuvimos otro caso alarmante con 400,000 fotos manipuladas para fines sexuales de alumnas de secundaria en Zacatecas.
Estos casos fueron mediáticos y por eso los conocemos. Pero ¿qué pasa con los que no lo son? ¿Cuántas mujeres y niñas han pasado por exactamente lo mismo, sin que nadie se entere, sin apoyo y sin ser escuchadas? ¿Cuántas cargan con el miedo, la culpa o la vergüenza de algo que otra persona decidió hacer sobre ellas? Porque cuando hablas con mujeres jóvenes la realidad es más dura de lo que queremos admitir.
Hace un par de semanas, desde Eon Institute, lideré conversaciones con 22 mujeres jóvenes de 18 a 25 años (shout out a Girl Up México por colaborar con nosotras y a ONU Mujeres México por abrirnos las puertas de su casa) para conocer sus experiencias y reflexiones sobre este tipo de violencia. El sentimiento que me dejaron fue desgarrador.
La mayoría mencionaron que viven con el miedo constante de que su rostro termine en un video o en una imagen sexualizada creada por IA; no solo por todos los daños que esto implica, sino también porque existe una profunda desconfianza hacia las instituciones, ya sean educativas, legales o tecnológicas, a la hora de denunciar. Mencionaron que los procesos son revictimizantes, falta personal capacitado y existe una ausencia de protocolos claros. El miedo también es a no ser escuchadas y terminar aún más expuestas, el cual se instala en su forma de habitar los espacios públicos y digitales.
Y mientras las escuchaba, fue inevitable pensar en mis propias vivencias y violencias. Recordé la primera vez que experimenté violencia digital (siendo apenas una niña en secundaria) y cómo, años después, en la preparatoria, circulaba un Dropbox lleno de fotos íntimas de conocidas y amigas mías, o cuando me percaté de lo común que es recibir fotos íntimas no solicitadas de hombres o que tu pareja te amenace con difundir tus fotos.
La violencia nunca se ha ido, ni ha disminuido, solo ha cambiado de forma, evolucionado con nuevas herramientas pero con el mismo objetivo de controlar nuestros cuerpos y buscar ejercer poder sobre nosotras.
Pero lo que más me preocupó fue escuchar cómo muchas de ellas ya están cuestionando si vale la pena ocupar cargos de liderazgo, puestos de toma de decisión o simplemente ser visibilizadas porque no quieren convertirse en víctimas de este tipo de violencia. Esto significa que están restringiendo su participación en espacios, incluso antes de que tengan la oportunidad de ocuparlos.