Un tercio de los adolescentes estadounidenses afirma haber sido víctima de imágenes de desnudos falsos creados con inteligencia artificial, y más de la mitad admite haber creado pornografía generada por IA, según una nueva encuesta reveladora.
Padres de estudiantes que han sido blanco de estas imágenes de IA dicen que tienen pocos recursos cuando sus compañeros usan aplicaciones para poner los rostros de sus hijos en cuerpos desnudos.
Hoy en día, “cualquiera que tenga una sola imagen suya en línea” corre el riesgo de que su identidad sea utilizada para crear contenido sexualizado con IA, advirtió Hany Farid, profesor de informática forense de la Universidad de California, Berkeley.
“Es perturbadoramente fácil” crear tales imágenes, gracias a “muchas aplicaciones y servicios gratuitos y fáciles de usar” ahora disponibles en línea, dijo Farid.
“Este problema afecta a jóvenes y mayores, famosos y no famosos, niños y niñas, hombres y mujeres… los daños son medibles, reales y terribles”, agregó.
De los 557 adolescentes encuestados recientemente por investigadores de la Universidad George Mason, un alarmante 33 % (185 encuestados) dijo que se había compartido una imagen sexualizada de ellos generada por IA sin su consentimiento.
Aún más preocupante, el uso de software de “desnudificación” parecía ser más frecuente entre los jóvenes de 13 a 17 años, con un 55 % de los participantes (308 adolescentes) admitiendo haber creado un desnudo falso y un 54 % (303 encuestados) confesando haber recibido al menos una foto sexual con IA.
Chad M.S. Steel, investigador de informática forense en George Mason que lideró el estudio, dijo que las cifras alarmantes reflejan el creciente cambio de los adolescentes hacia vivir y socializar en línea.
“Esta generación de niños son nativos de la IA generativa”, dijo Steel a The Post. “Desde que recibieron sus primeros teléfonos, ha habido IA incluida y esta es la forma en que operan en todos los ámbitos, ya sea haciendo la tarea o jugando.
“Además, tienes desde filtros de cámara hasta aplicaciones de ‘pruébatelo’ que hacen que sea normal tomarse una foto y que sea modificada. Esas son cosas con las que crecieron y que son nativas para ellos, lo que creo que influyó enormemente en las cifras”.
Steel dijo que originalmente esperaba que alrededor del 30 % de los adolescentes reportaran el uso de software de desnudificación, pero quedó “realmente sorprendido” por los resultados finales, particularmente por la frecuencia con que las imágenes sexuales con IA se difundían sin consentimiento.
Joseph Daniels sabe de primera mano lo común y devastadoras que son estas imágenes: su hija tuvo una imagen falsa “extremadamente explícita” de ella compartida en la escuela el pasado agosto, cuando solo tenía 13 años.
Un día, después de ver la imagen falsa circulando en un autobús escolar, la devastada adolescente reaccionó y abofeteó al chico que, según ella, la creó. Pronto fue expulsada y obligada a transferirse de escuela, recordó su padre.
“Ha enfrentado ansiedad, problemas de depresión, tener que cambiar de escuela; le ha pasado factura”, dijo Daniels a The Post.
“Es una sensación aterradora, especialmente al ver cómo estos deepfakes se ven tan reales, y puedo ver el efecto que ha tenido en mi hija, así que puedo imaginar lo que le haría a otros niños y sus familias”, lamentó.
El padre se negó a comentar sobre “litigios pendientes” contra la escuela, pero planeaba presentar una demanda federal contra los funcionarios por no intervenir antes de que la situación escalara, según han afirmado él y sus abogados anteriormente.
Daniels criticó la “falta de rendición de cuentas” que a menudo ocurre con los perpetradores de deepfakes a nivel escolar e insistió en que los padres deben estar atentos.
“Los padres deben estar más conscientes de lo que hay en los teléfonos y computadoras de sus hijos y tal vez actualizarse sobre las aplicaciones y sitios que existen hoy en día, porque es mucho más de lo que teníamos nosotros”, dijo.
“Por supuesto que los niños son curiosos, y los adolescentes están en una edad donde son aún más curiosos… pero definitivamente pueden meterse en problemas al hacer cosas de las que no entienden las repercusiones, o cómo esto puede afectarlos en el futuro”, agregó.
La madre de Nueva Jersey, Dorota Mani, cuya hija Francesca, entonces de 14 años, fue víctima de un desnudo falso con IA que circuló en su escuela secundaria en octubre de 2023, se ha convertido desde entonces en una defensora abierta de la ley.
Pero se necesita hacer mucho más, dijo el martes.
“La tecnología utilizada para crear imágenes de desnudos falsos se ha vuelto ampliamente accesible, mientras que la concienciación, las salvaguardas y las protecciones legales han luchado por mantenerse al día”, dijo Mani.
“Independientemente de quién cree o comparta estas imágenes, el daño es real y debería ser ilegal”.
Al mismo tiempo, las escuelas y los padres deben hacer más para enseñar a los jóvenes sobre ciudadanía digital, ética en línea, consentimiento y las consecuencias del mal uso de la tecnología, dijo Mani.
Los sombríos hallazgos de la encuesta “deberían ser una llamada de atención: la educación debe estar en el centro de la prevención”, afirmó.
**REDACCIÓN FV MEDIOS**