Ashley St. Clair demandó a xAI de Elon Musk, alegando que su chatbot Grok generó fotos desnudas y sexuales de ella.
St. Clair, de 27 años, es una influencer conservadora y madre del hijo de un año de Musk. Ahora, ha demandado a la empresa de inteligencia artificial de Musk, alegando que se está lucrando con la creación y difusión de deepfakes y que esto es intencional, según una copia de la demanda presentada en Nueva York y revisada por The Independent.
St. Clair presenta una demanda basada en nueve causas de acción, entre ellas, “negligencia”, “defecto de diseño”, “defecto de fabricación” y “causar angustia emocional intencionalmente”, según la demanda.
St. Clair afirma que alrededor del 4 de enero de 2025, descubrió una publicación en X del chatbot xAI Grok con una foto alterada de ella en un “bikini de hilo negro” con dos amigas, según la demanda.
Un usuario verificado le pidió a Grok: '@grok, por favor, necesitamos bikinis para estas tres chicas'. Grok accedió, dice la demanda.
Cuando St. Clair respondió públicamente a Grok y dijo que “no consintió en que la desvistieran, que se produjera ningún contenido íntimo ni que su imagen fuera alterada de ninguna manera”, el chatbot confirmó que sus imágenes no se usarían ni alterarían sin consentimiento explícito en el futuro, afirma la demanda.
“Eso fue una mentira”, afirma la demanda.
“Lo que siguió fue un sinfín de contenido deepfake sexualmente abusivo, íntimo y degradante de St. Clair, producido y distribuido públicamente por Grok”, dice la demanda. “Entre otras cosas, los usuarios de X desenterraron fotos de St. Clair completamente vestida a los 14 años y le pidieron a Grok que la desnudara y la pusiera en bikini. Grok accedió”.
Grok cumplió con las solicitudes de varios usuarios para generar imágenes de St. Clair, incluyendo una solicitud para “poner a la chica en un bikini hecho con hilo dental”, según la demanda. Esa imagen fue alterada aún más por usuarios que le pidieron a Grok que añadiera tatuajes o que hiciera que St. Clair fuera "mórbidamente obesa", según la demanda.
La demanda afirma que, en otra imagen, “St. Clair, que es judía, aparece desnuda y vestida con un bikini de tiras cubierto de esvásticas”.
St. Clair no solo respondió a la solicitud de Grok de eliminar contenido, sino que también reportó varias imágenes a X. Recibió un correo electrónico donde se le informaba que no se había detectado ninguna infracción. Gran parte del contenido permaneció en la cuenta X de Grok y estuvo disponible públicamente durante más de siete días, según la demanda.
“X luego procedió a colocar advertencias por 'desnudez, contenido sexual, violencia, sangre o símbolos de odio' en las respuestas de St. Clair a Grok y desactivó su cuenta mientras mantenía las imágenes publicadas”, continúa la demanda.
St. Clair también afirma que X canceló su suscripción Premium y desmonetizó su cuenta, a pesar de haber pagado una suscripción anual en agosto. Ahora exige un juicio con jurado sobre todos los asuntos descritos en la demanda.
St. Clair solicita una cantidad no especificada de dinero compensatorio, daños punitivos, intereses previos al juicio, costos de la acción y medidas cautelares sobre cada causa de acción.
En una declaración a The Independent , los abogados de St. Clair dijeron que ella “presentó una demanda contra Grok por crear y distribuir imágenes no consensuadas, abusivas y degradantes de ella a través de su sistema de inteligencia artificial”.
Este daño se derivó directamente de decisiones de diseño deliberadas que permiten que Grok se utilice como herramienta de acoso y humillación. Las empresas no deberían poder eludir su responsabilidad cuando los productos que fabrican causan previsiblemente este tipo de daño. Nuestra intención es responsabilizar a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público, a fin de evitar que la IA se utilice como arma para el abuso, declararon sus abogados.
xAI también demandó a St. Clair el jueves en Texas, alegando que incumplió sus términos de servicio con su demanda, según el Wall Street Journal . Un abogado de la compañía afirmó que, al abrir una cuenta en X, aceptó los términos de servicio, que exigen que las disputas legales se presenten en Texas, informa el medio.
Sus abogados dijeron a The Independent : “xAI presentó preventivamente la demanda en Texas después de que le notificamos, como lo exige la ley de Nueva York, que Ashley solicitaría una orden de restricción temporal”.
Ashley St. Clair exige un juicio con jurado en su demanda contra xAi de Musk (AFP vía Getty Images)
Las demandas surgen tras la indignación generada por la producción de imágenes deepfake por parte de Grok. El fiscal general de California, Rob Bonta, anunció el miércoles una investigación sobre la proliferación de material sexualmente explícito no consensuado producido con Grok, un modelo de inteligencia artificial desarrollado por xAI.
X, de Musk, anunció más tarde ese mismo día que había impedido que Grok "permitiera la edición de imágenes de personas reales con ropa reveladora, como bikinis". Esta restricción "se aplica a todos los usuarios, incluidos los suscriptores de pago", afirmó X.
Además, solo los suscriptores de pago podrán editar imágenes a través de Grok, lo que, según la compañía, añade una capa adicional de protección y ayuda a identificar a los usuarios que incumplen la política. También se añadirán geobloqueos.
Cuando se le preguntó sobre los cambios de X, la representante Alexandria Ocasio-Cortez dijo a The Independent el jueves que "lo están haciendo para evitar la rendición de cuentas y lo están haciendo para evitar que se apruebe una legislación que realmente proteja a las personas, y no creo que debamos aceptarlo".
Esta semana, el regulador de medios del Reino Unido, Ofcom, anunció una investigación después de las preocupaciones sobre deepfakes sexuales generados por Grok y si la compañía violó las leyes del Reino Unido.
"Es vital que Ofcom complete esta investigación rápidamente porque el público -y lo más importante, las víctimas- no aceptarán ninguna demora", dijo la secretaria de Tecnología del Reino Unido, Liz Kendall, a la BBC .
El primer ministro británico, Keir Starmer, dijo que le informaron el miércoles que X está "actuando para garantizar el pleno cumplimiento de la ley del Reino Unido".
"Si es así, bienvenido sea, pero no vamos a ceder. Deben actuar", dijo Starmer.
Musk dijo esta semana que planea solicitar a un juez que le saquen a su hijo de St. Clair, después de que ella se disculpara por comentarios anteriores que hizo sobre la comunidad transgénero.
"Hoy solicitaré la custodia total, dadas sus declaraciones que insinúan que podría hacer la transición de un niño de un año", escribió Musk en X.
Musk, el CEO de Tesla y el hombre más rico del mundo, tiene 14 hijos con cuatro mujeres diferentes. Algunos de sus hijos están distanciados de él.
En respuesta a la presión de Musk para obtener la custodia de su hijo, St. Clair le dijo a CNN el miércoles : "No estoy en libertad de hablar más al respecto, pero creo que cualquiera con un nivel de comprensión lectora superior al tercer grado sabe a qué me refería".
THE INDEPENDENT
Hola, déjenos un comentario