La mañana del miércoles, la presidenta de México, Claudia Sheinbaum, junto con Citlalli Hernández, titular de la Secretaría de la Mujer, presentaron un primer acuerdo con plataformas digitales para combatir la violencia y estrategias contra ciberacoso a mujeres. Facebook, TikTok e Instagram, son partes de este acuerdo.
La clave de esta estrategia, es reforzar, modificar y ejercer de manera correcta las ya existentes políticas y restricciones que las plataformas tienen para modular el tipo de contenido que se sube y así combatir la violencia y tener estrategias contra ciberacoso a mujeres. Durante este anuncio, Sheinbaum aclaró que la plataforma X fue invitada, pero al no tener una sede que opere en México, no será parte del plan.
Las tres plataformas mencionadas, a pesar de tener políticas más estrictas, tienen sus problemas. Por ejemplo, Instagram tiene un problema de sex bots, que mandan mensajes automatizados y suben contenido pornográfico sin mostrar completamente una desnudez, TikTok permite comentarios misóginos y acosadores, y en los últimos años, han salido notas denunciando grupos y foros de Facebook dedicados a publicar fotos íntimas y tomadas sin consentimiento de mujeres e inclusive niños.
La preocupación mayor es con X, tan solo el año pasado en un marco de 11 días se generaron más de 3 millones de imágenes pornográficas, que con la herramienta de inteligencia artificial, Grok, se rompió un récord histórico en la industria del contenido de adulto.
Karina Velasco, usuaria de X, este año sufrió de esta nueva forma de ciberacoso. Bajo fotos normales que había publicado, hombres le pidieron a Grok que modificara la foto original a ella en bikini y posiciones explícitas.
Tomó la decisión de meter una denuncia por el delito de pornografía, ya que a pesar de haber una propuesta existente contra las imágenes explícitas generadas por inteligencia artificial, no se ha hecho válida.
Existe en México la errónea creencia que la Ley Olimpia ayudaría en estos casos, es importante aclarar que los límites de esta ley son a los cuerpos reales, por los que aquellos que hayan sido modificados con inteligencia artificial no pueden defender su caso con esta ley.
El rápido avance de la inteligencia artificial pone en riesgo diversos derechos humanos, tanto para hombres como mujeres, el derecho a la privacidad y autoría de la misma cara, voz y cuerpo son de los más vulnerables, y las leyes se están quedando cortas para proteger a los ciudadanos.
