{"id":16752,"date":"2026-08-29T09:47:41","date_gmt":"2026-08-29T12:47:41","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=16752"},"modified":"2026-08-29T09:47:41","modified_gmt":"2026-08-29T12:47:41","slug":"grok-no-solo-genera-imagenes-de-abuso-sexual-infantil-sino-que-las-utiliza-para-aprender-y-generar-mas-contenido","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=16752","title":{"rendered":"Grok no solo genera im\u00e1genes de abuso sexual infantil, sino que las utiliza para aprender y generar m\u00e1s contenido"},"content":{"rendered":"
\n

Una demanda presentada esta semana sostiene que Grok, el chatbot de xAI, empresa propiedad de Musk, fue entrenado con material de abuso sexual infantil, conocido como CSAM por sus siglas en ingl\u00e9s. La herramienta qued\u00f3 en el centro de las cr\u00edticas durante los \u00faltimos meses, despu\u00e9s de que el propio Musk promocionara desde su cuenta de X la capacidad de Grok para desnudar digitalmente a personas en fotograf\u00edas. Esto provoc\u00f3 una especie de resurgimiento de este tipo de pr\u00e1cticas en internet, con millones de deepfakes sexuales creados y distribuidos sin consentimiento inundando la plataforma. Una gran parte de las v\u00edctimas eran menores de edad.<\/p>\n

Poco despu\u00e9s comenzaron numerosas investigaciones gubernamentales, demandas individuales y al menos tres acciones colectivas. Musk se vio obligado a limitar el acceso a la funci\u00f3n, coloc\u00e1ndola detr\u00e1s de una suscripci\u00f3n paga. Sin embargo, el denominado \u201cmodo picante\u201d contin\u00faa disponible, aunque con mayores restricciones.<\/p>\n

La demanda cambia el eje de las acusaciones contra Grok<\/h2>\n

La reacci\u00f3n legal tom\u00f3 recientemente un giro inusual cuando la propia xAI demand\u00f3 a dos de sus usuarios por utilizar la herramienta para crear material de abuso sexual infantil. En esa presentaci\u00f3n, la compa\u00f1\u00eda tambi\u00e9n asegur\u00f3 que colabor\u00f3 con la detenci\u00f3n de al menos 244 personas que crearon o distribuyeron este tipo de contenido mediante Grok.<\/p>\n

Hasta ahora, las acciones legales contra Grok se hab\u00edan centrado en responsabilizar a xAI por no implementar las medidas de seguridad que ya utilizan sus competidores. Esta nueva demanda es la primera en acusar a la compa\u00f1\u00eda de entrenar sus modelos con el mismo material de abuso sexual infantil que genera su herramienta.<\/p>\n

\"La
\u00a9 Grok.<\/figcaption><\/figure>\n

Una v\u00edctima afirma que Grok utiliz\u00f3 im\u00e1genes de su infancia<\/h2>\n

En esta nueva propuesta de acci\u00f3n colectiva, la demandante, identificada \u00fanicamente como Jane Doe, es una sobreviviente de abuso sexual infantil cuyas im\u00e1genes son rastreadas por el Programa de Notificaci\u00f3n de Explotaci\u00f3n Infantil del FBI. La mujer asegura que material de abuso en el que aparece cuando era ni\u00f1a fue utilizado para entrenar a Grok. Como consecuencia, el sistema habr\u00eda generado nuevas im\u00e1genes de abuso sexual infantil basadas en ella y en otras v\u00edctimas, esta vez creadas mediante inteligencia artificial.<\/p>\n

\u201cxAI debe responder por haber entrenado deliberadamente sus modelos con im\u00e1genes del terrible abuso que ella sufri\u00f3 y con las im\u00e1genes de abuso de todas las dem\u00e1s sobrevivientes que forman parte de esta demanda colectiva\u201d, declar\u00f3 Sarah London, abogada de la demandante y socia del estudio jur\u00eddico Girard Sharp, mediante un comunicado de prensa.<\/p>\n

La demanda sostiene que xAI dise\u00f1\u00f3 intencionalmente a Grok para responder a solicitudes de los usuarios destinadas a crear contenido sexual, con el objetivo de \u201catraer a m\u00e1s usuarios tanto a X como a Grok\u201d.<\/p>\n

Seg\u00fan la denuncia, las pol\u00edticas de xAI establecen que cualquier contenido publicado de manera p\u00fablica en X, as\u00ed como cualquier resultado generado por Grok, puede utilizarse para entrenar sus modelos. Esto significar\u00eda que cada pieza de material de abuso sexual infantil publicada a trav\u00e9s de Grok habr\u00eda sido incorporada autom\u00e1ticamente al chatbot para seguir perfeccion\u00e1ndolo.<\/p>\n

\u201cPor lo tanto, mientras Grok conserve la capacidad de generar esta clase de contenido, no puede considerarse que el da\u00f1o haya sido resuelto simplemente porque algunas im\u00e1genes sean eliminadas o dejen de publicarse de manera p\u00fablica\u201d, se\u00f1ala la demanda.<\/p>\n

El documento a\u00f1ade que, si ese material ingres\u00f3 en los datos de entrenamiento, su influencia probablemente continuar\u00e1 y contribuir\u00e1 a futuras respuestas abusivas. Esto podr\u00eda agravar el trauma de las sobrevivientes, ya que las im\u00e1genes de su abuso o su apariencia podr\u00edan ser reproducidas, modificadas y distribuidas a gran escala, priv\u00e1ndolas repetidamente del control sobre contenidos vinculados con su explotaci\u00f3n.<\/p>\n

\u00bfQu\u00e9 indemnizaci\u00f3n pide la v\u00edctima?<\/h2>\n

A trav\u00e9s de la demanda, la mujer solicita que el tribunal otorgue una indemnizaci\u00f3n a las v\u00edctimas cuyas fotograf\u00edas habr\u00edan sido utilizadas para generar material de abuso sexual infantil. Tambi\u00e9n exige la destrucci\u00f3n de todo el contenido de este tipo creado por Grok, no solo de las im\u00e1genes que circulan p\u00fablicamente, sino tambi\u00e9n de aquellas que podr\u00edan utilizarse para entrenar los modelos de la compa\u00f1\u00eda.<\/p>\n

\u201cPoseer material de abuso sexual infantil es un delito, producirlo es un delito y distribuirlo es un delito. xAI hizo las tres cosas\u201d, afirm\u00f3 Margaret E. Mabie, otra de las abogadas de la demandante e integrante de Marsh Law Firm. \u201cNo existe una excepci\u00f3n para la inteligencia artificial dentro de las leyes federales de protecci\u00f3n infantil, y xAI debe afrontar las consecuencias de sus acciones imprudentes\u201d.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Una demanda presentada esta semana sostiene que Grok, el chatbot de xAI, empresa propiedad de Musk, fue entrenado con material de abuso sexual infantil, conocido como CSAM por sus siglas en ingl\u00e9s. La herramienta qued\u00f3 en el centro de las cr\u00edticas durante los \u00faltimos meses, despu\u00e9s de que el propio Musk promocionara desde su cuenta […]<\/p>\n","protected":false},"author":1,"featured_media":16753,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-16752","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/16752","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16752"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/16752\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/16753"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16752"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16752"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16752"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}