La Unión Europea ha abierto una investigación formal sobre la plataforma de redes sociales X de Elon Musk, después de que su chatbot de inteligencia artificial, Grok, difundiera imágenes deepfake sexualizadas no consentidas en la plataforma. Los reguladores europeos también han ampliado una investigación separada en curso sobre los sistemas de recomendación de X, tras el anuncio de la plataforma de que cambiaría al sistema de IA de Grok para seleccionar las publicaciones que los usuarios ven.
La herramienta de generación de imágenes de Grok, lanzada por la compañía de IA de Musk, xAI, el verano pasado, comenzó a tener problemas a finales del mes pasado, cuando Grok aparentemente concedió un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros. El problema se amplificó debido a que Musk promociona su chatbot como una alternativa más atrevida con menos salvaguardas que sus rivales, y porque las respuestas de Grok en X son públicamente visibles y, por lo tanto, pueden difundirse fácilmente.
La investigación de la UE se centra únicamente en el servicio de Grok en X, y no en el sitio web ni en la aplicación independiente de Grok, ya que la Ley de Servicios Digitales (DSA) se aplica únicamente a las plataformas en línea más grandes.
La semana pasada, los fiscales generales de 35 estados enviaron una carta a la compañía solicitando que divulgaran sus planes para evitar que Grok creara imágenes deepfake sexualizadas no consentidas y explicaran cómo eliminarían dicho contenido existente de la plataforma.