La Unión Europea abre una investigación formal contra la red social X por la generación de imágenes sexuales sin consentimiento a través de Grok, sumándose a una ofensiva regulatoria que ya ha provocado bloqueos en Asia y auditorías en el Reino Unido
La investigación se produce en un contexto de creciente alarma internacional sobre el uso de la IA generativa para vulnerar la privacidad y los derechos de menores y mujeres | Foto Archivo
La Comisión Europea anunció este lunes la apertura de una investigación contra la red social X (anteriormente Twitter) centrada en su herramienta de inteligencia artificial, Grok.
El organismo comunitario busca determinar la responsabilidad de la plataforma en la creación y difusión de imágenes sexualizadas y desnudos falsos generados sin consentimiento, un movimiento que alinea a Bruselas con una serie de acciones restrictivas emprendidas recientemente por países como Indonesia, Malasia y el Reino Unido.
La investigación se produce en un contexto de creciente alarma internacional sobre el uso de la IA generativa para vulnerar la privacidad y los derechos de menores y mujeres.
El anuncio de la Unión Europea es la culminación de una semana de reveses para la empresa xAI, propiedad de Elon Musk.
El pasado 10 de enero, Indonesia bloqueó el acceso a Grok calificando la generación de deepfakes sexuales como una «violación grave de los derechos humanos».
A esta decisión se sumaron Malasia y Filipinas, países que restringieron el uso de la herramienta tras detectar la circulación de material explícito.
En Europa, según EFE, la presión no solo proviene de Bruselas; el regulador británico Ofcom y la policía de Irlanda mantienen investigaciones abiertas por la difusión de imágenes íntimas de menores, mientras que en España, el Ministerio de Juventud e Infancia ha solicitado la intervención de la Fiscalía General del Estado por presuntos delitos de violencia sexual infantil.
Grok, pornografía sintética y respuesta de Musk
Elon Musk, quien inicialmente reaccionó a las críticas publicando una imagen paródica de sí mismo generada por IA, ha tenido que ceder ante la presión de los mercados y los reguladores.
El pasado 15 de enero, Grok implementó limitaciones técnicas que impiden a todos sus usuarios —incluidos los de pago— editar fotografías de terceros.
Estas medidas de seguridad permitieron que naciones como Filipinas y Malasia restablecieran el acceso al servicio el 22 de enero, tras recibir garantías de que la herramienta no facilitaría la creación de contenido ilegal o abusivo.
Grok fue concebido por Musk como un asistente de IA con «humor irreverente», diseñado específicamente para abordar temas considerados tabú por competidores como ChatGPT.
Sin embargo, este enfoque permisivo ha chocado frontalmente con las legislaciones de seguridad digital.
La investigación europea evaluará si X ha incumplido sus obligaciones de moderación y protección de usuarios, lo que podría derivar en sanciones económicas masivas bajo la Ley de Servicios Digitales (DSA).
#Elon Musk #Grok #IA #Inteligencia Artificial
Noti/Imágenes