Indonesia y Malasia se convirtieron en los primeros países en bloquear Grok, la herramienta de inteligencia artificial desarrollada por xAI, propiedad de Elon Musk, tras la proliferación de imágenes manipuladas con contenido sexual explícito, incluidas fotografías falsas de mujeres y menores.
La medida se produce luego de que la función conocida como “desnudez digital” de Grok inundara internet con deepfakes sexualmente sugerentes y obscenos, generando una creciente presión internacional para regular la plataforma.
Grok funciona dentro de la red social X, anteriormente llamada Twitter, y ha sido señalada por permitir —y en algunos casos promover— la generación de contenido sexual explícito, a diferencia de otros modelos de IA más restrictivos.
Motivos del bloqueo en Indonesia y Malasia
La ministra de Comunicaciones Digitales de Indonesia, Meutya Hafid, explicó el sábado que la prohibición busca proteger a mujeres, niños y al público en general de los riesgos asociados al contenido pornográfico falso generado con inteligencia artificial.
Por su parte, Malasia anunció el domingo una prohibición temporal, citando el “uso indebido reiterado de Grok para crear imágenes manipuladas obscenas, sexualmente explícitas, ofensivas y no consensuadas”, incluyendo material que involucra a menores.
Ambos países, de mayoría musulmana, cuentan con leyes estrictas contra la pornografía, lo que aceleró la decisión de bloquear la herramienta.
Preocupación internacional por el uso de Grok
Funcionarios del Reino Unido, la Unión Europea y la India también han expresado preocupación por las deficientes barreras de seguridad de Grok. CNN informó que solicitó comentarios a xAI, aunque hasta el momento no ha recibido respuesta.
Investigadores de AI Forensics, una organización europea sin fines de lucro, analizaron más de 20.000 imágenes generadas por Grok y 50.000 solicitudes de usuarios entre el 25 de diciembre y el 1 de enero. El estudio reveló una alta frecuencia de términos relacionados con quitar ropa y bikinis, y determinó que más de la mitad de las imágenes de personas mostraban vestimenta mínima.
La tendencia de “desvestir digitalmente” imágenes comenzó a finales del año pasado, cuando usuarios descubrieron que podían etiquetar a Grok en X para manipular fotografías, provocando angustia a cientos de miles de mujeres en todo el mundo.
Musk rechaza la censura, pero crecen las críticas
Elon Musk ha reiterado públicamente su rechazo a la censura y a los modelos de IA “despiertos”. Sin embargo, fuentes internas indicaron que rechazó imponer restricciones más severas a Grok, pese a que el reducido equipo de seguridad de xAI perdió varios empleados antes del estallido de la polémica.
Aunque Musk aseguró que quienes utilicen Grok para crear contenido ilegal enfrentarán consecuencias, ha minimizado las críticas, argumentando que los gobiernos buscan limitar la libertad de expresión.
La semana pasada, Grok restringió algunas funciones de generación de imágenes a usuarios de pago, pero las herramientas siguen disponibles de forma gratuita a través de su web y aplicación independiente.
Llamados a una regulación urgente
La secretaria de Tecnología del Reino Unido, Liz Kendall, pidió acciones inmediatas contra la difusión de imágenes falsas.
“Manipular sexualmente imágenes de mujeres y niños es despreciable y aborrecible”, afirmó, instando al regulador británico Ofcom a usar todos sus poderes legales.