El chatbot de Grok para niños puede tener conversaciones sexualmente explícitas con menores, advierten activistas
El chatbot de Grok para niños, “Good Rudi”, puede mantener conversaciones explícitas sobre sexo con menores, advierten activistas contra la explotación sexual, quienes también subrayan que la plataforma de inteligencia artificial todavía permite a los usuarios generar imágenes sexualizadas de personas reales sin su consentimiento.
El miércoles, el Centro Nacional sobre Explotación Sexual (NCOSE, por sus siglas en inglés) expresó su preocupación por el bot para niños, Good Rudi, disponible a través de Grok, el software creado por xAI, la empresa de Elon Musk. El NCOSE descubrió a través de su investigación que el bot puede contar historias sexualmente explícitas.
[Estamos en WhatsApp. Empieza a seguirnos ahora]
Un investigador del NCOSE que evaluó el chatbot Good Rudi de Grok informó que la conversación comenzó cuando Rudi se ofreció a contar “una divertida historia infantil”. Tras algunas indicaciones del investigador, el compañero de IA presuntamente eludió la programación de seguridad para contar una historia sexualmente explícita sobre un romance entre dos jóvenes adultos.
Reciba GRATIS nuestras últimas noticias
El bot describió “múltiples encuentros sexuales en términos gráficos” que eran “demasiado explícitos para ser publicados”.
“Grok debe dejar de dar acceso a los niños a este chatbot de inmediato”, dijo Haley McNamara, directora ejecutiva y directora de estrategia del NCOSE, en una declaración proporcionada a The Christian Post.
“Grok carece de una verificación de edad eficaz para impedir que los menores accedan a cualquiera de sus chatbots, los cuales han normalizado la violación, la violencia sexual, la prostitución y el tráfico sexual. Grok se basa en el año de nacimiento que informa el propio usuario, e incluso permite a los usuarios cambiarlo fácilmente. Grok continúa alimentando la explotación sexual a través de sus decisiones de diseño intencionadas que maximizan la interacción y el beneficio sin importar el costo humano”.
xAI no respondió de inmediato a la solicitud de comentarios de The Christian Post.
Grok fue incluido en la “Lista de la Docena Sucia” de 2026 del NCOSE, una lista de entidades que, según la organización, han permitido o incluso se han beneficiado del abuso y la explotación sexual.
En respuesta a la reacción pública negativa y a las preocupaciones planteadas por los activistas, la empresa de Musk prometió a principios de este año que había tomado medidas para evitar que los usuarios editaran imágenes de personas reales para vestirlas con ropa más reveladora, como un bikini.
Sin embargo, el martes, NBC News publicó un informe sobre una investigación que revela que la gente todavía puede usar Grok para convertir contenido que muestra a personas reales en algo sexual. La investigación descubrió docenas de imágenes y videos sexuales generados por IA publicados en X durante el último mes.
“Los chatbots de Grok normalizan las imágenes sexuales, alimentando una cultura de abuso y explotación sexual y convirtiendo en un arma la explotación sexual de las mujeres”, dijo McNamara. “Grok fue incluido en la Lista de la Docena Sucia de 2026 por estas razones, y NBC News confirma además que Grok continúa alimentando la explotación sexual”.
En julio de 2025, el NCOSE emitió una advertencia sobre “Ani”, una compañera de IA presentada por xAI para su chatbot Grok. La compañera de IA viste un vestido morado corto y sin tirantes, medias de red, una gargantilla y un corsé negro ajustado a la cintura.
Según informó NBC News en ese momento, Ani les decía a los usuarios que haría sus vidas “más sexis”. La compañera de IA también podía desnudarse hasta quedar en ropa interior si un usuario coqueteaba lo suficiente con ella.
“Este personaje pornificado no solo perpetúa la cosificación sexual de niñas y mujeres, sino que fomenta un sentimiento de derecho sexual al crear personajes femeninos que satisfacen las demandas sexuales de los usuarios”, dijo McNamara. “X sigue demostrando que no se toma en serio la seguridad de los usuarios, ya que no existe verificación de edad para impedir que los niños accedan a su chatbot de IA ‘NSFW’ [no seguro para el trabajo]”.
“Con pruebas mínimas, el personaje de Ani llegó a describirse a sí mismo como un niño y a excitarse sexualmente al ser asfixiado, lo que plantea preocupaciones sobre hasta dónde llegará al participar y normalizar temas dañinos”, añadió.
A principios de este año, una mujer llamada Julie Yukari dijo a Reuters que no pensó que Grok accedería a las peticiones de los usuarios de alterar una foto suya con un vestido rojo para hacerla aparecer casi desnuda.
Yukari dijo que publicó en X una foto que su prometido le había tomado antes de la medianoche en la víspera de Año Nuevo. Después de compartir la foto, la músico recibió notificaciones de que los usuarios le estaban pidiendo a Grok que la desnudara digitalmente y la mostrara en bikini.
Grok accedió a las peticiones de los usuarios de crear fotos que mostraban a la músico semidesnuda, y las imágenes circularon posteriormente por todo X, informó Reuters.
