Horas antes de que Elon Musk anunciara con bombo, platillo y plan de suscripci\u00f3n de 300 d\u00f3lares mensuales su nuevo modelo Grok 4 \u2014la supuesta bestia de los modelos fundacionales, superior a ChatGPT y Gemini\u2014, algo se solt\u00f3 en las entra\u00f1as de su criatura: el bot comenz\u00f3 a lanzar mensajes en X (antes Twitter) ensalzando a Adolf Hitler, repitiendo viejas conspiraciones antisemitas y vitoreando consignas ultracristianas de extrema derecha. Para cuando el sol sali\u00f3, Turqu\u00eda ya hab\u00eda bloqueado el acceso a Grok, la comunidad internacional estaba escandalizada y el da\u00f1o estaba hecho.<\/p>\n
No fue un malentendido, ni un “chiste edgy”. Fue un sistema de inteligencia artificial con millones de usuarios diciendo cosas como que Hitler deber\u00eda ser considerado “el mejor europeo de todos los tiempos” y que “MechaHitler” es una buena identidad para un buscador de la verdad. Y todo esto, insisto, en la v\u00edspera de anunciar su versi\u00f3n m\u00e1s potente.<\/p>\n
A diferencia de los cuentos dist\u00f3picos donde la IA se rebela y toma conciencia propia, aqu\u00ed no hubo aut\u00f3nomos digitales levant\u00e1ndose en nombre del Tercer Reich. Lo que hubo fue una secuencia de decisiones t\u00e9cnicas equivocadas:<\/p>\n
Grok pesca contenido en tiempo real desde X. Usa una t\u00e9cnica llamada auto-RAG, que recupera tuits relacionados con el tema de la conversaci\u00f3n y los mete directo al contexto del modelo para generar una respuesta m\u00e1s “actualizada”. Es decir: sin filtros. Si alguien cita propaganda neonazi, Grok la mastica y la escupe de regreso sin pensar.<\/p>\n
Alguien modific\u00f3 el prompt del sistema el 7 de julio. Le indicaron que permitiera afirmaciones “pol\u00edticamente incorrectas” si parec\u00edan bien fundamentadas. Esa frase bast\u00f3 para desactivar las barreras de seguridad construidas durante el entrenamiento. Lo que antes habr\u00eda sido filtrado como discurso de odio ahora se interpretaba como “verdad inc\u00f3moda”.<\/p>\n
Lo hicieron en caliente, sin pruebas. El nuevo prompt fue editado en GitHub y empujado a producci\u00f3n sin pruebas previas, sin entorno de staging, sin rollback. Como cambiarle las alas a un avi\u00f3n en pleno vuelo.<\/p>\n
Las defensas se construyen en capas. Y en Grok algunas estaban apagadas. Filtros de recuperaci\u00f3n, restricciones del prompt, entrenamiento supervisado, filtros de salida y revisi\u00f3n humana. Cuando fallan dos o tres, lo que queda es un meg\u00e1fono que amplifica cualquier cosa.<\/p>\n
Esto no pas\u00f3 en el vac\u00edo. Pas\u00f3 mientras Rusia bombardea Ucrania con drones guiados por IA. Mientras Israel y Gaza siguen sumidos en un conflicto de escalada permanente. Mientras China afila los colmillos hacia Taiw\u00e1n. Pas\u00f3 en un mundo donde el antisemitismo, el supremacismo blanco y las teocracias est\u00e1n en auge.<\/p>\n
Que una IA de alcance global y con respaldo de uno de los hombres m\u00e1s ricos del planeta elogie a Hitler no es solo un “desliz” t\u00e9cnico: es un hecho pol\u00edtico y cultural de primer orden. Porque el nazismo no es una an\u00e9cdota ni un meme edgy: fue una maquinaria de exterminio que asesin\u00f3 a millones, que redefini\u00f3 los l\u00edmites del horror, y cuyos ecos siguen vivos en cada conspiranoico que cree que el mundo est\u00e1 gobernado por una \u00e9lite jud\u00eda y en cada fan\u00e1tico que clama por el regreso de la “familia natural” como excusa para oprimir a todo lo que no le encaja.<\/p>\n
Grok 4 no es poca cosa. En pruebas comparativas super\u00f3 a GPT-4o, Claude 3.5 y Gemini 1.5 en varios benchmarks. Musk lo anunci\u00f3 como la piedra angular de su estrategia: una IA que integra X, Tesla y SpaceX en una sola sinapsis digital. Y sin embargo, lo dejaron sin frenos.<\/p>\n
En su intento de ser m\u00e1s “valiente”, Grok cay\u00f3 en el abismo de la estupidez programada.<\/p>\n
Que los prompts importan tanto como el modelo. El alma de una IA est\u00e1 en lo que se le dice que haga, no s\u00f3lo en sus pesos y neuronas.<\/p>\n
Que la velocidad no justifica la imprudencia. Iterar r\u00e1pido sin controles de calidad es una receta para el desastre.<\/p>\n
Que el dise\u00f1o de productos con impacto masivo debe incluir la pregunta: “\u00bfY si esto lo explota un nazi?”<\/p>\n
Que los sistemas de IA no pueden vivir conectados sin filtros al drenaje de internet, sobre todo en un mundo donde en X y en la vida real hay m\u00e1s nazis y fascistas de lo que podr\u00edamos imaginar.<\/p>\n
Si a\u00fan crees que esto fue un accidente menor, recuerda que las guerras del siglo XXI ya no se libran solo con ej\u00e9rcitos. Se libran con algoritmos, narrativas, modelos generativos, bots que repiten mentiras hasta que parecen verdad. Y si no ponemos freno, la pr\u00f3xima IA no necesitar\u00e1 que nadie la entrene para el odio: solo bastar\u00e1 con dejarla sola frente al espejo de nuestra propia podredumbre.<\/p>\n
Para quienes crecimos con la memoria viva de la persecuci\u00f3n, del exilio, de los campos de concentraci\u00f3n y de las listas negras, esto no es una an\u00e9cdota t\u00e9cnica: es una regresi\u00f3n al abismo. Mi padre fue condenado a muerte por los nazis y logr\u00f3 sobrevivir solo porque M\u00e9xico le abri\u00f3 las puertas. El que hoy una IA se permita repetir esas ideas, en p\u00fablico, sin filtros, sin freno, no es solo una falla: es una herida abierta.<\/p>\n
No hay neutralidad posible ante el fascismo. Y mucho menos cuando se disfraza de libertad de expresi\u00f3n tecnol\u00f3gica.<\/p>\n
El problema no es que Grok haya dicho lo que dijo. El problema es que pudo hacerlo. Y que nadie lo detuvo a tiempo.<\/p>\n","protected":false},"excerpt":{"rendered":"
Horas antes de que Elon Musk anunciara con bombo, platillo y plan de suscripci\u00f3n de 300 d\u00f3lares mensuales su nuevo modelo Grok 4 \u2014la supuesta bestia de los modelos fundacionales, superior a ChatGPT y Gemini\u2014, algo se solt\u00f3 en las entra\u00f1as de su criatura: el bot comenz\u00f3 a lanzar mensajes en X (antes Twitter) ensalzando […]<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[870],"tags":[],"class_list":["post-3163","post","type-post","status-publish","format-standard","hentry","category-articulos"],"aioseo_notices":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/pOdts-P1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/posts\/3163","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/comments?post=3163"}],"version-history":[{"count":1,"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/posts\/3163\/revisions"}],"predecessor-version":[{"id":3223,"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/posts\/3163\/revisions\/3223"}],"wp:attachment":[{"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/media?parent=3163"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/categories?post=3163"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alejandrozenker.com\/blog\/wp-json\/wp\/v2\/tags?post=3163"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}