Escuela en Nueva Jersey investiga creación de imágenes falsas de alumnas desnudas con IA

NUEVA JERSEY. - Una escuela en Nueva Jersey se encuentra inmersa en una investigación perturbadora y preocupante, tras reportarse que estudiantes utilizaron inteligencia artificial para manipular fotografías reales y crear imágenes de sus compañeras desnudas.

Los alumnos de la Escuela Secundaria Westfield crearon imágenes falsas de desnudos de sus compañeras, según una comunicación enviada por correo electrónico a los padres en octubre. Al parecer, estas fotos se compartieron en mensajes de texto grupales durante el verano.

John Pizzuto, excomandante retirado del grupo de trabajo contra delitos en Internet de la Policía Estatal de Nueva Jersey, expresó su preocupación por la creciente problemática. "Lo que me preocupa es la cantidad de suicidios entre los niños y el aspecto del acoso. Y hoy en día nuestro mundo en línea es bastante difícil, pero cuando puedes simplemente tomar una imagen de alguien, se vuelve realmente problemático".

El superintendente de escuelas, Raymond González, aseguró que el distrito educativo está "reforzando nuestros esfuerzos al educar a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá".

Se informó que al menos 30 estudiantes de la Escuela Secundaria Westfield han sido víctimas de esta situación. Francesca Mani, una de las estudiantes afectadas, compartió su experiencia diciendo: "Comencé a llorar porque no sabía qué hacer, no pensé que esto me pudiera pasar a mí".

La estudiante reveló que uno de los niños reveló accidentalmente la situación a una de las niñas, lo que llevó a una rápida propagación del problema. Mani buscó apoyo en la oficina de la directora, Mary Asfendis, quien aseguró que creen que todas las imágenes creadas han sido eliminadas y no están circulando.

Sin embargo, Mani descubrió que el problema no se limitaba a un solo estudiante, sino que involucraba a un grupo que utilizaba más de una docena de imágenes de jóvenes.

Los padres, consternados, expresaron su preocupación y algunos de ellos han tomado medidas legales para abordar este problema emergente a nivel nacional. El uso de la inteligencia artificial para acosar a las estudiantes es visto como un triste indicio de cómo la tecnología puede ser mal utilizada.

La directora Asfendis enfatizó la importancia de hablar con los hijos sobre el uso responsable de la tecnología y lo que comparten en las redes sociales. "Continuaremos educando a sus hijos sobre la importancia del uso responsable de la tecnología y esperamos que refuercen estos mensajes en casa", concluyó.

A pesar del impacto, el menor presuntamente responsable de las imágenes fue suspendido temporalmente por unos días, pero ya ha regresado a la escuela. Esta situación se da en un contexto en el que el presidente Joe Biden emitió una amplia orden ejecutiva para regular el desarrollo de la inteligencia artificial y establecer salvaguardias contra la producción de material de abuso sexual infantil y la creación de imágenes íntimas no consensuadas de individuos reales. Medidas similares se han tomado en varios estados de EE. UU. para combatir la distribución de pornografía generada por inteligencia artificial o para otorgar a las víctimas el derecho a presentar demandas en tribunales civiles.