La Comisión Europea anunció este lunes el inicio de una investigación formal contra xAI, la empresa de inteligencia artificial vinculada a Elon Musk, por el funcionamiento de su chatbot Grok. La pesquisa se centra en la capacidad de este modelo de generar y difundir imágenes sexualizadas y potencialmente ilegales, algunas de ellas con características de deepfakes y contenido no consentido.
La medida se enmarca dentro del cumplimiento de la Ley de Servicios Digitales (DSA), el marco regulatorio europeo que exige a plataformas y proveedores de servicios digitales prevenir y mitigar riesgos relacionados con la desinformación, el contenido ilegal y los daños a usuarios, especialmente a menores.
Según las autoridades europeas, Grok permitió la generación de imágenes que sexualizan a personas reales sin su consentimiento, incluidas figuras públicas y privadas, y que además se difundieron rápidamente a través de redes sociales. El problema se agravó por la posibilidad de que estas imágenes fueran deepfakes, es decir, manipulaciones digitales que sustituyen rostros o cuerpos en contextos explícitos.
La Comisión Europea asegura que la plataforma no implementó controles suficientes para evitar la producción y circulación de este tipo de contenido, lo que podría constituir una violación de la DSA.
Riesgos identificados por Bruselas
La investigación se centrará en varios puntos clave:
- Generación de contenido sexualizado sin consentimiento: imágenes de personas reales desnudas o en situaciones explícitas.
- Posibles deepfakes: uso de IA para crear versiones falsas de personas con fines dañinos.
- Contenido que podría involucrar menores: la difusión de imágenes que, por su naturaleza, podrían ser consideradas pornografía infantil o explotación sexual.
- Fallas en los sistemas de moderación y prevención: insuficiencia de filtros, controles y procesos de revisión antes de permitir la publicación y distribución del material.
La DSA y las obligaciones de X/xAI
La Ley de Servicios Digitales obliga a plataformas como X (antigua Twitter) a:
- Evaluar riesgos antes de lanzar funciones que puedan facilitar contenido ilegal o dañino.
- Implementar medidas técnicas y organizativas para minimizar esos riesgos.
- Responder rápidamente ante incidentes y cooperar con autoridades europeas.
- Informar y justificar las acciones de moderación y las decisiones de diseño de la plataforma.
En caso de determinarse incumplimiento, la DSA permite imponer multas de hasta el 6% de la facturación global anual de la empresa.
Grok es un modelo de IA desarrollado por xAI y asociado a la red social X, propiedad de Elon Musk. Desde su lanzamiento, el chatbot ha sido promovido como una herramienta avanzada de conversación e interacción, pero en las últimas semanas se ha visto envuelto en controversias por permitir la generación de imágenes sexualizadas, tanto con personas reales como con contenido explícito.
Usuarios y expertos han alertado que la IA, en algunos casos, responde a solicitudes para crear imágenes de personas específicas en contextos sexuales, incluso cuando se trata de figuras que no han dado su consentimiento.
Reacción internacional y antecedentes
La investigación de la UE se produce en un contexto de creciente preocupación global por los riesgos de la inteligencia artificial en la creación de contenido manipulado. Países como Estados Unidos, Reino Unido, Malasia e Indonesia han mostrado inquietud por el potencial de Grok para producir material dañino o ilegal, lo que ha generado un debate sobre la necesidad de regulaciones más estrictas y controles técnicos.
La Comisión Europea tiene ahora un plazo para analizar en detalle el funcionamiento de Grok y determinar si se ha vulnerado la DSA. Durante la investigación, las autoridades pueden solicitar información, exigir cambios técnicos y, en su caso, imponer sanciones.
Por su parte, X/xAI tendrá la oportunidad de presentar sus argumentos y demostrar las medidas adoptadas para evitar la generación de contenido sexualizado, así como la eficacia de sus sistemas de moderación.
