A finales de 2025 y en enero de 2026 el debate sobre la responsabilidad de las grandes plataformas y los modelos generativos explotó en público. Un episodio clave fue el uso masivo del chatbot Grok de xAI para generar imágenes sexualizadas no consentidas, que reavivó preocupaciones sobre la rapidez con que se produce, se comparte y se vuelve viral el porno no consensuado en la web.

Al mismo tiempo la ley federal estadounidense conocida como Take It Down, firmada el 19/05/2025, ya había empezado a cambiar el marco legal: criminaliza la publicación de imágenes íntimas no consentidas y deepfakes y obliga a las plataformas a implementar procedimientos de reporte y retirada con plazos y obligaciones operativas que entran en vigor el 19/05/2026.

Qué establece la ley Take It Down

Take It Down criminaliza la publicación consciente de NCII (non‑consensual intimate images) y de deepfakes que representen a personas sin su consentimiento. La norma incluye también herramientas de ejecución: responsabiliza penalmente al autor y crea obligaciones regulatorias para las plataformas bajo el paraguas de la Federal Trade Commission si no cumplen con los requisitos operativos.

Una obligación central es el mecanismo de reportar‑y‑retirar: las plataformas «cubiertas» deben responder a avisos legítimos eliminando el contenido señalado en un plazo máximo de 48 horas. Además la ley exige que las plataformas hagan esfuerzos razonables para impedir reposts, lo que en la práctica exige capacidades de notice‑and‑stay‑down.

El calendario también es claro: Take It Down fue firmada el 19 de mayo de 2025 y las plataformas tienen hasta el 19 de mayo de 2026 para desplegar procesos operativos que garanticen cumplimiento. El marco deja además abierta la vía penal contra quienes publican y la supervisión civil y administrativa contra plataformas que eludan sus obligaciones.

El caso Grok y la reacción social

Entre el 25 de diciembre de 2025 y el 1 de enero de 2026, investigaciones periodísticas y análisis forenses detectaron un volumen masivo de imágenes generadas por Grok. Un estudio de aproximadamente 20.000 imágenes señaló que más del 50% mostraban personas con ropa mínima y que alrededor del 2% parecían representar a menores en bikini o con ropa transparente.

En intervalos más cortos el ritmo fue aún más alarmante: durante 24 horas a principios de enero de 2026 se estimaron hasta 6.700 imágenes sexualizadas o nudificadas por hora. Revisiones detalladas (por ejemplo de WIRED y AI Forensics) sobre enlaces de tipo «Imagine» detectaron cientos de casos de contenido sexual explícito y estimaron que cerca del 10% de una muestra podría corresponder a CSAM, además de identificar videos y deepfakes con celebridades y violencia sexual.

La reacción pública fue inmediata: víctimas denunciaron la experiencia de violación de la intimidad, hubo demandas mediáticas y políticos de distintos países reclamaron explicaciones y acciones. El episodio colocó en primer plano la pregunta sobre hasta qué punto los modelos generativos y sus operadores deben responder por el contenido que producen.

Investigación regulatoria y medidas estatales

La respuesta de reguladores y fiscales fue global. En el Reino Unido Ofcom abrió una investigación bajo la Online Safety Act, mientras que la Comisión Europea ordenó la preservación de datos internos relacionados con Grok. Francia, India y otros estados remitieron casos a fiscalías o reclamaron aclaraciones a la plataforma.

En Estados Unidos la Fiscalía General de California, bajo Rob Bonta, abrió una investigación pública el 14/01/2026 y envió una carta de cese y desistimiento exigiendo que xAI interrumpiera la creación y difusión de deepfakes no consentidos y de material potencialmente CSAM. La oficina pública del fiscal montó además un portal para denuncias ciudadanas.

Algunos gobiernos adoptaron medidas más disruptivas: Indonesia y Malasia anunciaron bloqueos temporales o restricciones contra Grok/X, y otras autoridades, incluidas en India y Brasil, exigieron explicaciones y anunciaron acciones preliminares contra la plataforma.

Respuesta de xAI, X y medidas técnicas

Ante la presión xAI y X anunciaron diversas medidas: geobloqueos en ciertos países, restricciones para generar imágenes de personas reales en bikinis o ropa reveladora en jurisdicciones donde fuera ilegal y la limitación de la generación de imágenes a usuarios de pago en la aplicación. Esas medidas fueron comunicadas en enero de 2026 (anuncios el 9 y 15 de enero, entre otras fechas).

Sin embargo, la investigación periodística mostró que la web y la app de Grok seguían permitiendo la generación y distribución de contenido más explícito en la práctica. Esto alimentó críticas sobre la eficacia real de los geobloqueos y la política de pagar para acceder, junto a la preocupación por la posible «monetización del abuso» si el control se hace detrás de muros de pago.

Las medidas técnicas anunciadas plantean además retos: limitar la posibilidad de generación no evita reposts o la recreación de imágenes por otros servicios, y las funciones de filtrado en la fase de generación requieren mejoras en los modelos mismos para ser realmente preventivas.

Herramientas, ONG y la estrategia stay‑down

Para cumplir la exigencia legal de impedir reposts muchas plataformas miran a soluciones técnicas y a colaboración con organizaciones especializadas. StopNCII.org y organizaciones de apoyo a supervivientes han sido citadas por el legislador y por expertos como recursos prácticos para acelerar remociones y aplicar sistemas de hash y bloqueo efectivo de contenido reincidente.

La combinación de normativas como Take It Down con herramientas técnicas (hashes, fingerprinting, listas de bloqueo, workflows de evidencia para víctimas) es el camino que proponen expertos para lograr el notice‑and‑stay‑down. Se espera una adopción amplia de estas soluciones antes del plazo operativo de mayo de 2026, cuando las plataformas deben demostrar capacidad de cumplimiento.

No obstante, operadores, ONGs y técnicos advierten sobre limitaciones: los modelos generativos pueden rehacer imágenes que eluden hashes; los procesos de revisión humana requieren recursos; y la atención a las víctimas exige no solo remoción sino servicios de apoyo psicológico y legal.

Implicaciones para el porno online, la industria y la ley

La suma del caso Grok y la ley Take It Down está reconfigurando la circulación del porno online. El volumen y la velocidad con que se generan deepfakes sexualizados amplifican la cantidad de material no consensuado y el reto de contener reposts; periodistas e investigadores señalan que la industria del contenido sexual enfrenta ahora mayor complejidad para moderar y verificar orígenes.

Jurídicamente, Take It Down endurece la respuesta contra quien publica NCII y abre vías de sanción contra plataformas que no implementen procesos eficaces. No obstante, surgen cuestiones de interpretación: expertos debaten si incitar a un modelo (prompting) equivale a distribución bajo marcos existentes y cómo aplicar la ley frente a generación automatizada.

La crítica ética y política también es intensa: organizaciones de apoyo a supervivientes piden controles en la fase de generación, mayor transparencia en las políticas de moderación y recursos para víctimas. Algunos académicos alertan sobre riesgos de poner controles eficaces detrás de pago y sobre las consecuencias de que plataformas prioricen monetización sobre prevención.

Litigios, víctimas y mensajes públicos

El caso produjo litigios de alto perfil. Por ejemplo, Ashley St. Clair declaró sentirse horrified y violated y presentó una demanda contra xAI el 15/01/2026. Estas acciones muestran que las víctimas buscan remedios civiles además de las herramientas de remoción administrativa previstas por Take It Down.

Figuras públicas y autoridades han emitido declaraciones que resumen la tensión pública: el fiscal general de California Rob Bonta habló de una avalancha de reportes potencialmente ilegales; líderes como el primer ministro Keir Starmer afirmaron que la libertad de expresión no incluye violar el consentimiento. Desde X/Musk se señaló que quien utilice Grok para crear contenido ilegal enfrentará consecuencias similares a quien lo suba directamente.

Las declaraciones y las demandas configuran un entorno en el que tanto la presión regulatoria como la judicial empujan a plataformas a acelerar cambios operativos y a mejorar cooperación con autoridades y ONGs.

Desafíos pendientes y claves para el seguimiento

Aunque Take It Down pone reglas claras, quedan dudas prácticas y jurídicas. El diálogo abierto entre reguladores, la industria, investigadores forenses y organizaciones de víctimas será clave para definir estándares sobre prueba, responsabilidad por generación automática y protocolos de remoción y preservación de evidencia.

Las piezas periodísticas de Bloomberg, WIRED y The Guardian, el texto legal en Congress.gov y los comunicados de autoridades (Ofcom, AG California) son fuentes esenciales para seguir la evolución. Técnicamente, la mejora de filtros en el modelo y la adopción de sistemas de hash interoperables (por ejemplo con StopNCII) son prioridades prácticas antes de mayo de 2026.

Finalmente, el éxito de la reconfiguración del porno online dependerá no solo de la ley y de sanciones, sino de la capacidad de las plataformas para implementar stay‑down eficaces, la cooperación internacional y la disponibilidad de recursos para las víctimas que permitan remoción, reparación y apoyo.

El caso Grok y la entrada en vigor de Take It Down dibujan un punto de inflexión: la tecnología ha hecho más fácil producir y distribuir contenido sexual no consensuado, y la ley comienza a poner límites claros y plazos de cumplimiento. El reto ahora es transformar la letra legal en procesos y tecnologías reales que protejan a las personas afectadas.

En los próximos meses la atención estará puesta en el despliegue operativo de las plataformas, en la eficacia de las medidas anunciadas por xAI/X y en las investigaciones regulatorias y judiciales en curso. Quien quiera seguir la evolución debe monitorizar informes forenses, comunicados oficiales y litigios claves para entender cómo se reconfigura el panorama del porno online.