Usuarios de la plataforma crearon contenido de desnudos utilizando la inteligencia artificial de X. Con Grok, la inteligencia artificial de X, muchos usuarios solicitaron generar desnudos de mujeres y menores a partir de fotografías publicadas en sus cuentas personales.
Si bien la inteligencia artificial puede ayudar en diferentes tareas técnicas, también requiere regulación, ya que lo vivido por estas usuarias puede calificarse como acoso sexual cibernético.
Anteriormente, se han documentado otros casos de acoso digital, como el ocurrido en Roblox, en el cual una madre denunció que usuarios del videojuego abusaron del avatar de su hija.
Según Plan International:
“Internet es un espacio de oportunidades, pero también un entorno donde la violencia y la desinformación afectan de manera desproporcionada a las niñas, adolescentes y mujeres jóvenes… Los datos son alarmantes: el 84 % de las personas jóvenes encuestadas ha sido sometida a acoso en Internet y el 78 % ha sido víctima de amenazas, insultos o burlas. La situación es especialmente grave para las niñas y mujeres jóvenes, quienes enfrentan violencia de carácter sexual y una mayor exposición a la desinformación y el acoso.”
Es necesario plantear la conversación sobre cómo usamos Internet y qué tanto es permisible en un espacio digital que debe ser seguro para todos y todas.
