El Gobierno del Reino Unido ha formalizado la ilegalización de la generación de imágenes íntimas con IA sin el consentimiento de los afectados, una medida que entra en vigor esta semana.
Durante una comparecencia ante la Cámara de los Comunes, la ministra de Tecnología, Liz Kendall, calificó estas creaciones como «armas de abuso» destinadas a acosar y violar la dignidad de las personas, afectando de manera desproporcionada a mujeres y niñas. La nueva normativa, amparada en la ley de Uso y Acceso de Datos aprobada el año anterior, criminaliza tanto a quienes solicitan o crean este contenido como a las aplicaciones que facilitan la generación de desnudos.
La decisión gubernamental surge tras las alertas emitidas por Ofcom, el regulador de comunicaciones británico, respecto a ciertas funciones de Grok, la inteligencia artificial integrada en la red social X. El organismo expresó su alarma ante la circulación de imágenes sexualizadas de menores, reportándose casos que representan en situaciones explícitas o de violencia gráfica.
Según las autoridades británicas, este contenido no es inofensivo. «Hay vidas que pueden ser y han sido devastadas por este contenido, que está diseñado para acosar, atormentar y violar la dignidad de la gente», declaró Kendall.
Investigaciones y multas millonarias a la plataforma X
Como consecuencia directa de la circulación de este material, Ofcom ha iniciado este lunes una investigación formal contra la red social X para determinar si la empresa ha cumplido con sus obligaciones de seguridad. En caso de detectarse negligencia, la plataforma de Elon Musk podría enfrentar sanciones económicas de hasta 18 millones de libras o el 10 % de sus ingresos globales, optando por la cifra que resulte mayor.
Además, en situaciones consideradas de extrema gravedad, el regulador tiene la facultad de solicitar ante tribunales el bloqueo del servicio o restricciones para sus anunciantes.
Respuesta legal en el ámbito internacional
El Reino Unido se suma a una lista creciente de naciones que han tomado medidas contra Grok y su desarrolladora, xAI. Malasia ha bloqueado el acceso al chatbot e iniciado procedimientos legales tras denunciar la inacción de la plataforma ante pedidos de eliminación de contenido obsceno.
Por su parte, Indonesia restringió el acceso a la herramienta el pasado sábado debido a la creación de imágenes no consensuadas de mujeres y menores.
En Europa, Francia también ha interpuesto denuncias contra la herramienta por la divulgación de contenidos de carácter sexual.
Cambios en las políticas de esta IA
Ante la creciente presión internacional y la ola de quejas por el uso indebido de su tecnología, la red social X limitó el pasado viernes las funciones de edición de imágenes de Grok únicamente a los usuarios con suscripciones de pago. Este ajuste busca mitigar la manipulación de fotografías reales de personas para desnudarlas artificialmente.
No obstante, las acciones gubernamentales continúan avanzando, enfocadas en erradicar el problema desde el desarrollo tecnológico y garantizar que el uso de la inteligencia artificial no vulnere los derechos fundamentales de los ciudadanos.