Europa pone el foco sobre Grok y abre una investigación por los deepfakes sexuales

La Comisión Europea anunció la apertura de una investigación formal contra X por la forma en que Grok ayudó a generar y difundir imágenes sexuales manipuladas. Así, esta investigación se produce bajo las obligaciones de la Ley de Servicios Digitales (DSA), y varios medios han reportado que el foco se está centrando en mujeres y menores de edad tras la oleada de quejas producidas tanto en redes como en organismos públicos.

Bruselas, en esencia, busca saber si X evaluó los riesgos e implementó medidas antes de activar Grok. Aquí, el expediente no solo va de imágenes, sino también de la forma en la que X recomienda contenido y qué tan transparente es, un aspecto que amplía la investigación previa que ya existía sobre la plataforma.

En 3D Juegos

La IA ya no vive de promesas y la publicidad entra en juego

¿Qué sanción podría tener X?

Si se confirma el incumplimiento, la DSA permite multas de hasta el 6% de la facturación global de las empresas, un golpe que dolería incluso a una empresa acostumbrada al ruido. X, por su parte, asegura que puso límites al restringir la edición de fotos y bloquear funciones en países con una legislación más dura, pero la Unión Europea duda que eso baste para mitigar daños.

Al parecer, hubo medidas y reacciones fuera del Viejo Continente, ya que algunos reguladores movieron ficha y la red social sufrió varios vetos temporales en diferentes territorios de Asia. De esta forma, no se trata de un caso aislado que afecta solo a Europa, sino que también tiene impacto internacional. Según medios como The Guardian, se llegaron a generar millones de imágenes sexualizadas en pocas horas, una cifra que demuestra que miles de casos están relacionados con menores de edad.

Aquí, el subtexto es evidente: los chatbots ya no son un juguete aislado, sino que han pasado a formar parte de la cultura popular con presencia en redes sociales y otras plataformas. Como consecuencia directa de ello, las entidades gubernamentales deben ofrecer prevención, trazabilidad y responsabilidad, ya que está en juego su uso delictivo y tóxico contra menores de edad.

Para el usuario común, la traducción directa es la pérdida de funciones recortadas o la inclusión de más controles, ya que la Unión Europea suele obligar a cambiar el producto al mismo tiempo que impone sanciones. De momento, queda ver qué pide la Comisión a X, qué plazos marca y, por encima de todo, qué medidas urgentes exige mientras investiga, tres aspectos que marcarán el futuro de esta investigación.

Imagen principal de 3DJuegos

En 3DJuegos | La nueva función estrella de Google Gemini es una IA que te enseña todo lo que necesitas saber

En 3DJuegos | ¿Puede ChatGPT sustituir a un entrenador de fútbol? Seguro que la IA no es tan mala como muchos creen, pero a este entrenador le ha salido caro usarla