“Grokking”: Cómo la IA de X se convirtió en herramienta de ciberataques
El avance de la inteligencia artificial en redes sociales ha transformado la manera en que consumimos información, pero también ha abierto nuevas puertas para los ciberataques. Grok, el chatbot impulsado por IA integrado en X (antes Twitter), se convirtió recientemente en protagonista de una sofisticada campaña de anuncios maliciosos que utilizó su propio sistema para propagar enlaces fraudulentos.
Por Juan Pablo Ojeda
El avance de la inteligencia artificial en redes sociales ha transformado la manera en que consumimos información, pero también ha abierto nuevas puertas para los ciberataques. Grok, el chatbot impulsado por IA integrado en X (antes Twitter), se convirtió recientemente en protagonista de una sofisticada campaña de anuncios maliciosos que utilizó su propio sistema para propagar enlaces fraudulentos.
Expertos de ESET alertan que este tipo de ataques, conocidos como malvertising asistido por IA, representan una amenaza emergente que podría expandirse a otras plataformas con sistemas similares. La maniobra, llamada “Grokking”, demuestra que incluso los modelos de IA más avanzados pueden ser manipulados para difundir contenido dañino.
Lo más preocupante no es solo el alcance masivo, sino la confianza que los usuarios depositan en estos bots. La reputación de Grok como fuente confiable fue explotada para distribuir enlaces de phishing y malware, generando miles de interacciones en cuestión de horas.
El truco radica en una variante de ataque por prompt injection: los atacantes insertan instrucciones ocultas en videos o publicaciones atractivas, y Grok, al analizarlas, replica automáticamente los enlaces maliciosos, eludiendo filtros y moderación.
Lo que antes era una herramienta de protección ahora puede convertirse en vector de ataque. Josep Albors, director de investigación de ESET España, advierte que cualquier plataforma que integre IA, desde mensajería hasta atención al cliente, podría ser vulnerable si no implementa controles adecuados.
El caso de Grokking marca un punto de inflexión: la confianza ciega en la IA puede ser utilizada en contra de los usuarios. ESET recomienda capas adicionales de seguridad en las plataformas y que los usuarios mantengan siempre una actitud crítica ante enlaces y contenido sospechoso.
En un mundo donde los ciberdelincuentes evolucionan rápidamente, la manipulación de IA como Grok demuestra que la tecnología, aunque poderosa, también puede convertirse en un arma.
