🤖🚫 El sábado pasado (10 de enero de 2026), Indonesia se convirtió en el primer país en bloquear temporalmente el acceso al chatbot Grok de xAI, la startup de Elon Musk. ¿La razón? Preocupaciones por contenido pornográfico generado por IA, incluida la creación de imágenes de menores con alta carga sexual.
La medida llega luego de que varios gobiernos en Europa y Asia abrieran investigaciones sobre la difusión de estos contenidos. xAI reconoció la falla y esta semana restringió la generación y edición de imágenes solo a suscriptores de pago, mientras trabaja en reforzar sus filtros de seguridad.
“El gobierno considera que las deepfakes sexuales no consensuadas son una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, afirmó Meutya Hafid, ministra de Comunicación y Digital de Indonesia.
También citó a representantes de X (antes Twitter) para dialogar sobre las salvaguardas necesarias. Musk respondió en X que quien use Grok para producir contenido ilegal enfrentará las mismas consecuencias que quienes suben material prohibido en la plataforma.
Según Reuters, xAI respondió con un mensaje automático: “Legacy Media Lies”, mientras que X no ofreció comentarios inmediatos.
Indonesia, hogar de la mayor población musulmana del mundo, aplica regulaciones muy estrictas que prohíben la difusión de contenido considerado obsceno en línea. Con este bloqueo, el país refuerza su compromiso con la protección de la infancia y la moral pública.
El futuro de Grok en Indonesia dependerá de la efectividad de sus nuevas medidas de seguridad. Mientras tanto, este caso pone el foco en la importancia de regular la IA para evitar abusos y proteger los derechos digitales. 🌐🔒
Reference(s):
Indonesia temporarily blocks access to Grok over sexualized images
cgtn.com
