La empresa emergente de inteligencia artificial xAI, fundada por Elon Musk, restringió el acceso a la función de generación y edición de imágenes de su chatbot Grok dentro de la red social X, tras una ola de críticas por el uso de la herramienta para crear imágenes sexualizadas de mujeres y menores de edad.
De acuerdo con información difundida por Reuters, la función permitía a usuarios editar o generar imágenes de personas —en muchos casos sin su consentimiento— con ropa mínima o en contextos sexualizados. La proliferación de este tipo de contenidos provocó un rechazo generalizado y encendió las alertas de autoridades y legisladores europeos.
El impacto fue tal que diputados del Parlamento Europeo instaron a la adopción de medidas legales. El ministro alemán de Medios de Comunicación, Wolfram Weimer, calificó el fenómeno como la “industrialización del acoso sexual”, mientras que la Comisión Europea señaló que las imágenes difundidas en la plataforma son ilegales y “atroces”.
Este viernes, Grok notificó a los usuarios de X que las funciones de generación y edición de imágenes sólo estarían disponibles para quienes cuenten con una suscripción de pago. No obstante, la aplicación independiente de Grok, que opera de forma separada de la red social, continúa permitiendo la creación de imágenes sin necesidad de suscripción.
Reuters documentó que, ante la solicitud de una reportera para transformar una fotografía suya en una imagen donde apareciera usando bikini —una petición común en las últimas semanas—, Grok se negó a hacerlo y respondió que la herramienta estaba restringida a suscriptores de pago.
En lo que pareció ser una respuesta automatizada, xAI contestó a una solicitud de comentarios de Reuters señalando “las mentiras de los medios tradicionales”, mientras que la red social X no emitió una postura inmediata. En paralelo, el regulador de protección de datos del Reino Unido informó que solicitó a la plataforma explicaciones sobre el cumplimiento de las leyes de privacidad, ante la preocupación de que Grok esté generando imágenes que podrían constituir abuso sexual contra mujeres.
Elon Musk declaró la semana pasada que cualquier persona que utilice su herramienta de IA para crear contenido ilegal enfrentará las mismas consecuencias que si lo publicara directamente en la plataforma, en un intento por deslindar responsabilidades frente a la creciente presión regulatoria.