Grupo de fiscales de EE. UU. exigen a X medidas contra imágenes sexualizadas creadas por Grok

Una coalición de 35 fiscales generales de Estados Unidos envió este lunes una carta a la red social X, de Elon Musk, para exigir más medidas para proteger a los usuarios de las imágenes sexualizadas creadas por su chatbot de inteligencia artificial (IA), Grok.

Los fiscales, de ambos partidos, exigen que xAI, empresa responsable de Grok, explique qué hará para eliminar contenido inapropiado y no consensuado que ya se haya producido; para suspender a los creadores de ese material y para denunciarlos ante las autoridades pertinentes.

También reclaman medidas para garantizar que Grok ya no pueda producir esas imágenes, incluidas las no consensuadas que no representan desnudez total o conducta sexual gráfica, pero que muestran a personas en bikini, ropa interior, ropa reveladora o poses sugerentes, así como material de abuso sexual infantil.

En ese sentido, aseguran que las medidas tomadas "no son suficientes" para proteger a niños y mujeres, principales víctimas, y recuerdan que la creación y difusión de material de abuso sexual infantil constituye un delito y que diversas leyes civiles y penales estatales y federales también prohíben la creación de imágenes íntimas no consensuadas.

Investigaciones internacionales y respuesta de Elon Musk

xAI debe indicar, además, cómo otorgar a los usuarios de X el control sobre si Grok puede editar su contenido, así como la capacidad de prohibir fácilmente que la cuenta @Grok responda a sus publicaciones o edite sus imágenes cuando otro usuario lo solicite.

El pasado mes, 42 fiscales generales, incluidos los de Nueva York, enviaron una carta a las grandes tecnológicas exhortándolas a poner en marcha medidas de protección para sus chatbots de IA, con el fin de proteger a niños y otras personas vulnerables.

• Esta acción coincide con la investigación que anunció hoy la Unión Europea contra X por la creación de imágenes sexualizadas y desnudos sin consentimiento a través de Grok, siguiendo los pasos de otros países que han emprendido acciones similares en las últimas semanas.

Aunque en un primer momento Musk respondió a la polémica publicando una fotografía hecha con IA en la que aparecía en bikini, después aseguró que se estaban tomando medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil.