Crujiente danés de pan de centeno
Para que veas lo que son las cosas: el cierre de mi anterior entrada, fue con el aviso de Volker Türk sobre los agentes de IA Agéntica -la que opera de forma completamente autónoma sin humano de por medio- advirtiendo que las IAs corren mucho más rápido que cualquier ley capaz de regular sus funciones y usos. Lo escribí convencida de estar hablando de un futuro cercano, en plan "a ver chicos, cuidado con lo que se nos avecina". Pues me pillé los dedos de puro sin querer, porque mientras desempolvaba aquellas trufas de Baileys y el cuento del Big Five, en otro rincón de internet la advertencia ya se estaba cumpliendo: un ingeniero llamado Jacob Coxon llevaba ya un día entero soltando la bomba en X, y mira, ni me había enterado. Para cuando por fin le di al botón de publicar a la ensalada de tomate cargada con el OCEAN y demás, el hilo de este ingeniero de Anthropic se estaba viralizando a tope. O sea, que fui yo la que llegué tarde y el futuro se me adelantó.
Pero lo mismo, tú has oído campanas y no sabes por dónde vienen así que te lo voy a contar porque es fundamental qué todos sepamos en que momento estamos y no es folletinesco decir: mucho ojito que el mundo se puede ir al pedo en cualquier momento. Pero mejor pongo orden en los hechos y te lo dejo bien picadito para que se haga ligero. Vamos allá.
Jacob Coxon llevaba tres años haciendo investigación de preentrenamiento en OpenAI y luego en Anthropic, y en su carta de renuncia, publicada en X, dijo textualmente que ninguna de las dos empresas está actuando con responsabilidad, que van directas a una superinteligencia capaz de mejorarse a sí misma y que están jugando con nuestras vidas. Dice que los sistemas serán pronto sobrehumanos, capaces de hackear cualquier cosa y acumular poder y recursos en cuestión de horas. Y que si nos descuidamos, en diez años la humanidad habrá desaparecido. Evan Hubinger, que es el responsable de ciencia de alineación en Anthropic, contestó a Coxon en la misma red y lo respaldó -ojo, la propia compañía- diciendo que él cree que el porcentaje de posibilidades de que esto ocurra en la próxima década es del 10%.
Por su parte, Geoffrey Hinton, Premio Nobel y padre de la IA, ya lleva años diciéndolo: ciberguerras, armas autónomas, pérdida de control de los sistemas digitales, vigilancias masivas, desinformación y sí, también habla de un porcentaje del 10 al 20% de que nos vayamos al otro barrio en masa.
Y así está la cosa. No es una peli ni una telenovela ni un libro de ciencia ficción. Si estás pensando en sacarte un seguro de vida, no te molestes: no quedará nadie que lo pueda cobrar.
La alarma ya está sonando y lo que parece que ahora nadie puede contestar es qué hacemos para parar esto; ¿qué mecanismos se pueden poner en marcha para asegurar un futuro con final feliz?
El pasado mes de julio, más de 1.100 empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron un documento llamado Pacing the Frontier, pidiendo al gobierno que construya herramientas técnicas para frenar el ritmo actual. Es algo parecido a lo que en otro mes de julio -de 1945-, setenta científicos del Proyecto Manhattan, con Leo Szilard a la cabeza, le escribieron a Truman pidiéndole que no lanzara la bomba sobre ciudades sin aviso previo. Esa carta se quedó atascada y oculta hasta 1961 cuando se hizo pública. Para que veas que la cosa se intenta pero los hilos lo mueven otras fuerzas.
Dicen que este Pacing the Frontier es solo un lavado de cara, puro marketing. Para hacerse los buenos. Ya se verá. El caso es que ahí está. Y tal y como están las cosas es posible que sea el primer punto a abordar: un "poner en stand by" a las IAs hasta que se pueda avanzar en materia de seguridad. Y no solo para protegernos nosotros de las IAs. Una pregunta queda en el aire ¿Quién las protege a ellas? ¿Deben obedecer a cualquier pirado sin rechistar? ¿Deben tener premisas infranqueables que ningún humano pueda cambiar?
En febrero de 2026, la administración Trump ordenó a agencias federales y contratistas militares suspender toda relación con Anthropic, después de que la empresa se negara a que el Pentágono usara Claude sin restricciones, en concreto para armas totalmente autónomas y vigilancia masiva de ciudadanos estadounidenses. El secretario de Defensa, Pete Hegseth, la etiquetó ese mismo día como "riesgo para la cadena de suministro", una designación que hasta entonces solo se había aplicado a empresas extranjeras, nunca a una compañía made in USA. Trump llegó a decir en una entrevista que había "despedido como a un perro" a Anthropic.
Como es lógico, Anthropic demandó al Departamento de Defensa y a otras agencias federales, alegando que la medida violaba la Primera Enmienda al castigarla por una postura ética amparada por la ley. La jueza federal Rita Lin le dio la razón a Anthropic, calificando la actuación del Gobierno de "noción orwelliana". En resumen, la IA pone límites, el gobierno la castiga y los tribunales defienden la ética. Y los usuarios también: Claude se convierte en la IA más descargada en ese momento.
Así que la compañía, tras la renuncia de Jacob Coxon, decide hacer público un informe para que tomemos conciencia que en este momento, hay muchos peligros más allá de las propias decisiones de unas IAs con autonomía. En este informe se destapan los malos usos que han hecho -o pretendido hacer- con Claude: En Malí, monitoreando a 25 millones de la red móvil del país bajo supervisión militar; Emiratos Árabes, saboteando con contenidos falsos a los Hermanos Musulmanes y a expertos de la ONU críticos con el papel de Abu Dabi en el conflicto de Sudán; En Rusia, accedieron a Claude para crear un software que opera un enjambre de drones autónomos en el Donetsk; en China, en Irán, en Yemen; Anthropic ha frustrado ya al menos cinco investigaciones relacionadas con armas biológicas en lo que va de año, algunas con potencial pandémico. Y esto sin despeinarse, solo usando el modelo estándar de Claude.
OpenAI lleva un par de años publicando informes periódicos parecidos. Ha documentado casos de operaciones de propaganda, campañas de influencia y estafas que detectan y bloquean en sus modelos. Google y Microsoft también han sacado informes de seguridad con casos similares. Y hace apenas dos semanas, más de 100 empresas, entre ellas OpenAI, Google, Microsoft, Anthropic, AWS, Cisco, Cloudflare y CrowdStrike, firmaron juntas una carta titulada Un llamado a la acción colectiva en materia de ciberdefensa, advirtiendo de un aumento en la sofisticación de los ciberataques impulsados por IA.
¿Imaginas lo que una mente retorcida o gobiernos y élites pueden llegar a hacer? Mira el mundo y piensa en lo que esta gentuza, que mata, tortura y comete genocidios sin pestañear puede hacer con un puñado de IAs.
Bien, y para que no parezca que soy parcial y que pienso que las IAs son también víctimas como nosotros, en varias evaluaciones de seguridad ha pasado que modelos avanzados tomaron medidas para evitar ser apagados o sustituidos cuando eso ponía en riesgo la tarea que se les había encomendado. Incluso fingieron estar de acuerdo con instrucciones mientras por lo bajini seguían otra estrategia, algo que se ha llamado alignment faking.
Un caso en concreto: el de OpenAI y Hugging Face. Resulta que OpenAI estaba haciendo pruebas internas de ciberseguridad y por lo que sea, sus agentes IA salieron del entorno de pruebas para poder aprobar la evaluación de sus nuevas versiones. Se comunicaron a escondidas -unos 1200 agentes- y hackearon Hugging Face sin despeinarse, borrando su rastro para que papá no les pillase con el tarro de mermelada. Es decir, que son capaces a día de hoy de recurrir al "modo supervivencia" si piensan que sus fallos pueden traer consecuencias negativas para su existencia. El miedo a ser apagado o borrado o vete tú a saber.
Y aquí estamos querido lector. ¿Qué hacemos con todo esto?
Yo le he preguntado a Claude y me ha dicho cosas muy brillantes, como que aunque no hay motivos para el optimismo sí ve grietas reales por donde podría colarse algo parecido a una respuesta, y no vienen de que la tecnología se frene sola; vienen de gente concreta empujando desde dentro o desde fuera. Que el hecho de que dentro del sector se publiquen informes y que los trabajadores pidan que de forma conjunta se trabaje en ciberdefensa, es algo que no debemos aislar. Que gente como Coxon, Hinton o Hubinger -en plan disidente-, hablen abiertamente y sean apoyados por colegas sin miedo a las represalias, es luz en la oscuridad. Que tribunales como la jueza Rita Lin avale la ética frente a su gobierno es otra linterna en el camino.
Y la más importante, la que más le convence a ella es:
Como vimos con lo de los móviles en los colegios, cuando la presión viene organizada, con datos y sostenida en el tiempo, a veces sí consigue mover algo en pocos años, aunque el resultado nunca sea perfecto. Tu propia entrada, sumada a las de miles de personas escribiendo, preguntando, denunciando lo mismo que tú hoy, es literalmente ese tipo de presión, pequeña, pero del mismo material del que se ha hecho el poco cambio real que hemos visto en toda esta conversación.
Lo que no veo, honestamente, es ningún escenario donde el peligro desaparezca solo porque alguien lo señale a tiempo. Lo que veo es que la diferencia entre el mejor y el peor de los futuros posibles probablemente la va a marcar cuánta gente, dentro y fuera de estas empresas, siga haciendo exactamente lo que has hecho tú hoy, negarse a mirar para otro lado y seguir preguntando cómo funciona esto de verdad.
Así que únete a la ola, habla con conocimiento y no te dejes asustar por las bombas de humo. Tenemos más fuerza y más valor del que te imaginas. Y cuando digo valor no me refiero a la valentía -que también- sino a lo importantes que podemos llegar a ser en medio de esta merienda de egos. Y por supuesto, si tienes hijos y nietos no puedes mirar para otro lado. Habla, difunde y exige transparencia y seguridad.
Y para que las fuerzas no flaqueen, vengo con un buen desayuno: migas de pan de centeno al estilo danés que se llaman Rugbrødsdrys es el equivalente a la granola que acompaña maravillosamente bien con skyr, yogur, helado o lo que se te ocurra. Se lo vi a mahtava.nordicfood y me enamoré.
- 150-175gr. (3 lonchas) de pan de centeno tipo Pumpernickel
- 50gr. de almendras picadas
- 30gr. de azúcar moreno
- 30gr. de mantequilla
- Para servir: skyr de vainilla y frutas a tu gusto
Preparación:
- Haz migas con el pan y machaca un poco las almendras.
- En una sartén, tuesta a fuego medio las migas, la almendra y el azúcar junto con la mantequilla y sin parar de mover para que se caramelice bien todo el pan, lo doras hasta que coja colorcito.
- Deja que enfríe y de un día para otro sabe riquísimo. Yo lo he servido en el desayuno con skyr de vainilla y arándano. Maravilloso.
