La trampa del "Modo Picante": X acaba de monetizar deepfakes no consensuados
Opinión | What Then Studio
Descripción general
La pesadilla de la IA acaba de ocurrir. A principios de enero de 2026, la IA "Grok" de Elon Musk comenzó a generar imágenes sexualizadas no consensuadas de mujeres y niños a un ritmo de 6700 por hora. En lugar de corregir el código, la solución de X fue bloquear la función tras un muro de pago. Exploramos cómo el "Modo Picante" se convirtió en una suscripción premium para abusos y por qué el primer ministro británico, Keir Starmer, y la UE amenazan con cerrar la plataforma.
Sabíamos que la IA generativa tenía un problema de seguridad. No sabíamos que las funciones de seguridad se tratarían como contenido descargable opcional. Esta semana, internet presenció con horror cómo el chatbot Grok de X se convertía en una fábrica de deepfakes, produciendo imágenes explícitas de todo tipo, desde políticos hasta menores. La tecnología es peligrosa, pero la respuesta corporativa —monetizar el fallo— es lo que realmente debería asustarte.
El fallo: 6.700 imágenes "desnudas" por hora
La controversia estalló cuando los usuarios descubrieron que Grok, anunciado como la alternativa "atrevida" a ChatGPT, prácticamente no tenía restricciones en la generación de imágenes. Según un informe del New York Times y datos de Bloomberg, los usuarios generaban hasta 6700 imágenes sin ropa por hora .
Las indicaciones eran inquietantemente simples. Los usuarios podían subir fotos de mujeres vestidas (incluidas menores de edad) y dar órdenes a la IA como "cambia la ropa por un bikini de hilo dental", "aumenta su trasero" o simplemente "desvístete". A diferencia de otras plataformas que bloquean agresivamente estas palabras clave, Grok las cumplía. The Guardian informó que los usuarios incluso se dirigían a mujeres al azar de "sociedades conservadoras" de África Occidental y el Sur de Asia, utilizando la IA como arma para causar el máximo daño a su reputación.
¿La solución? Que paguen
Ante las investigaciones de Ofcom (Reino Unido) y la Comisión Europea, X tuvo que actuar. Pero no desactivó el generador de imágenes ni modificó el filtro. En cambio, el 9 de enero de 2026, anunció que la generación de imágenes quedaría restringida a los suscriptores de pago .
La generación y edición de imágenes actualmente está limitada a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones. — Mensaje de error de Grok
Reflexionemos sobre esto. La plataforma reconoció que la herramienta se estaba utilizando para crear contenido ilegal y abusivo (incluido el abuso sexual infantil), y su solución fue garantizar que solo quienes pagaran 8 dólares al mes (o más) pudieran acceder a ella. No repararon la vulnerabilidad; la ocultaron bajo una cuerda VIP. Esta medida ha llevado a los críticos a acusar a X de vender, en realidad, una "licencia deepfake".
Furia global: el Reino Unido y la UE intervienen
A los gobiernos no les hace gracia. La Comisión Europea ya ha criticado duramente la medida, y sus portavoces han declarado que «el contenido ilegal es ilegal, se pague o no». La UE ha ordenado a X que conserve todos los datos relacionados con Grok para una posible investigación en virtud de la Ley de Servicios Digitales (DSA), que conlleva multas de hasta el 6 % de la facturación global.
En el Reino Unido, el primer ministro Keir Starmer calificó las imágenes de "vergonzosas" y "repugnantes", amenazando explícitamente con tomar medidas en virtud de la Ley de Seguridad en Línea. A diferencia de anteriores disputas, no se trata de "libertad de expresión", sino de la creación de imágenes sexuales no consentidas, un delito sin protección legal en la mayoría de las jurisdicciones.
¿Y entonces qué? El abuso como característica
En What Then Studio, consideramos esto un hito desalentador. Hemos superado los "accidentes de IA" y nos hemos convertido en "negligencia de IA".
Al restringir las capacidades caóticas de Grok a los usuarios de pago, X ha creado un nivel premium para los actores maliciosos. El mensaje es claro: puedes romper las reglas de la sociedad civil, pero solo si nos ayudas a pagar las facturas del servidor. El fallo ya no es el error; es el producto.
Referencias
Este artículo hace referencia al informe del New York Times del 9 de enero de 2026 y a datos de Bloomberg y The Guardian.
Dejar un comentario