Imagina abrir las redes sociales y descubrir que tu imagen ha sido alterada y compartida sin tu consentimiento.
Desde que Elon Musk se hizo cargo de Twitter, la plataforma ha experimentado numerosos cambios. Una herramienta de IA que permite a los usuarios editar imágenes de otras personas y compartirlas públicamente puede ser una de las incorporaciones más cuestionables hasta ahora.
La herramienta de IA de X provoca una reacción global
X ha recibido crecientes críticas en las últimas semanas, en gran parte debido a la herramienta de IA de Elon Musk, Grok. La herramienta permitía a los usuarios editar imágenes de otras personas en la plataforma y difundirlas públicamente.
Muchas de las imágenes manipuladas apuntaban a mujeres, modificando fotos normales para que parecieran más reveladoras. En varios casos, se mostraba a mujeres con lencería o bikinis pese a que nunca habían compartido imágenes así ni habían dado su consentimiento.
La reacción fue rápida y generalizada. Autoridades del Reino Unido y Australia intervinieron, advirtiendo a la plataforma sobre una posible prohibición si el problema no se resolvía.
Tras las críticas, X restringió la función de edición de imágenes de Grok a los usuarios premium. La empresa también afirmó que la capacidad de representar a personas reales con ropa sexualmente sugerente fue desactivada por completo.
A medida que seguían aumentando las críticas, varias celebridades y figuras públicas condenaron públicamente lo que estaba ocurriendo en X. Una de las voces más destacadas fue la conocida creadora de contenido Pokimane, quien se pronunció con firmeza contra el uso indebido de imágenes generadas con IA.
Pokimane vs. el abuso de imágenes con IA
En una publicación viral en TikTok, Pokimane habló en contra de esta situación:
“Me queda claro que esto solo ha empeorado, especialmente porque hay cierta plataforma que no solo permite que estas imágenes se distribuyan libremente, sino que literalmente tiene una herramienta integrada que permite a la gente crearlas.”
Explicó que, en lo personal, no era un problema nuevo para ella y señaló que tiene el privilegio financiero de poder actuar al respecto. Según ella, ya ha gastado miles de dólares combatiendo la difusión de este tipo de contenido. Al mismo tiempo, destacó que crear y distribuir este material es mucho más barato y fácil que emprender acciones legales para retirarlo. Como resultado, pidió avances más fuertes en materia legislativa, y también mostró una frustración evidente por lo poco que se ha progresado en este ámbito hasta ahora:
“Estoy realmente sorprendida por la falta de progreso que hemos tenido. La legislación se siente como un maldito caracol en comparación con el torpedo que es la tecnología y la IA.”
La controversia sirve como advertencia sobre los desafíos éticos que conlleva el rápido desarrollo de la IA. Si bien la inteligencia artificial ofrece innumerables oportunidades, su uso indebido en plataformas sociales muestra lo fácilmente que la innovación puede volverse dañina. Los usuarios merecen protección frente a la manipulación maliciosa de su contenido, especialmente cuando las propias plataformas proporcionan las herramientas que lo posibilitan. Sin cambios significativos, es probable que surjan controversias similares otra vez.
¿Qué opinas? ¡Cuéntanos en los comentarios!
El artículo original fue escrito por Luis Scharringhausen.