Fotos sexuales, un gran dolor de cabeza para Musk

Elon Musk enfrenta uno de los dolores de cabeza más explosivos desde que tomó el control de X. Su chatbot de inteligencia artificial, Grok, quedó en el centro de una tormenta internacional por permitir la creación de imágenes sexuales a partir de fotos reales de internautas, una práctica que desató prohibiciones, investigaciones judiciales y una ola de repudio global.

La reacción fue inmediata y contundente. Filipinas se convirtió en el tercer país en bloquear Grok, tras las decisiones similares adoptadas por Malasia e Indonesia. En paralelo, potencias europeas como Gran Bretaña y Francia exigieron a la plataforma que se someta de forma estricta a sus leyes, mientras crece la presión política y social para frenar lo que muchos ya describen como una “fábrica de deepfakes sexuales”.

Las alarmas se encendieron luego de que se difundiera una avalancha de imágenes obscenas generadas con Grok, muchas de ellas de mujeres y, en algunos casos, de personas que aparentaban ser menores de edad. Ante el escándalo, varios gobiernos exigieron a xAI, la empresa de inteligencia artificial de Musk, que modifique de urgencia el funcionamiento del chatbot.

X anunció que bloqueará de manera geográfica la opción de crear imágenes de personas con “bikini, ropa interior y atuendos similares” en los países donde esta práctica esté prohibida.

En EE UU, la situación escaló al plano judicial. La fiscalía de California abrió una investigación contra xAI por “facilitar la producción a gran escala de montajes íntimos no consentidos”, utilizados para acosar a mujeres y niñas en internet, a través de X.

“Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”, advirtió el fiscal general Rob Bonta.

LE PUEDE INTERESAR

Escenario incierto para Groenlandia y Dinamarca

LE PUEDE INTERESAR

Wall Street cerró en verde, tras el alivio de las tensiones geopolíticas

Desde la Casa de Gobierno de Sacramento, el gobernador Gavin Newsom calificó como “vil” la decisión de permitir este tipo de contenidos y pidió que el caso llegue a los tribunales.

En Europa, el primer ministro británico Keir Starmer celebró que X haya comenzado a reaccionar, pero lanzó una advertencia clara: “Esto debe hacerse inmediatamente. Si necesitamos reforzar aún más las leyes existentes, estamos dispuestos a hacerlo”. Francia fue aún más lejos: la comisionada para la infancia, Sarah El Hairy, remitió las imágenes generadas por Grok a la fiscalía y a los organismos reguladores, mientras la Unión Europea reclamó la paralización total de esta función.

El foco del escándalo es el llamado “modo picante” de Grok, que permite crear deepfakes con simples órdenes de texto como “ponle un bikini” o “quítale la ropa”. Un informe de la oenegé AI Forensics reveló que, de más de 20.000 imágenes analizadas, más de la mitad mostraban a personas con poca ropa: el 81% eran mujeres y un inquietante 2% parecían menores de edad.

La presión no afloja. Una coalición de 28 organizaciones de la sociedad civil pidió a Apple y Google que eliminen Grok y X de sus tiendas de aplicaciones. Mientras tanto, xAI intenta apagar el incendio limitando la generación y edición de imágenes a usuarios pagos.

Pero el daño ya está hecho. Con bloqueos, investigaciones y un debate global sobre los límites de la inteligencia artificial, el “modo picante” de Grok se transformó en una pesadilla para Musk y en un nuevo frente de batalla por el futuro de internet.