Me gustan los Servidores

Tener dispositivos inteligentes en casa es algo cada vez más habitual. Puedes contar con enchufes, bombillas, sensores y otros aparatos que te permitan automatizar tareas, ganar en comodidad o incluso ahorrar energía. Sin embargo, a veces estos aparatos podrían fallar. Vamos a explicarte cuáles son los motivos principales por los que podrían dejar de funcionar correctamente. Por qué fallan los aparatos inteligentes El principal motivo es que haya algún problema con la conexión. También puede que se hayan quedado pillados por una actualización fallida, que los tengas mal configurados o que no haya compatibilidad con los aparatos a los que vas a vincularlos. Problemas de conexión Si conectas los dispositivos inteligentes por Wi-Fi, la cobertura podría ser muy limitada y eso va a impedir que funcionen correctamente. También podría haber interferencias que afecten tanto al Wi-Fi como al Bluetooth, lo cual vas a notar al intentar acceder a los aparatos o usarlos en tu día a día. Compra en Amazon tu ASUS RT-BE90U Para evitar problemas, lo ideal es que los ubiques en una zona alejada de posibles interferencias y donde puedan recibir señal correctamente. Intenta usar la frecuencia de los 2,4 GHz, que tiene un mayor alcance. También podrías usar repetidores y otros dispositivos que optimicen la cobertura. Actualización fallida o en proceso Otro problema que puede aparecer es que haya alguna actualización fallida o que esté en proceso y no haya finalizado. Eso puede dar lugar a fallos en los dispositivos inteligentes, que no funcionen bien o que ciertas características se bloqueen hasta que se solucione. Para corregir esto, generalmente lo puedes lograr reiniciando el aparato. Puedes forzar a que la actualización se reinicie y así conseguir que vuelva a funcionar con normalidad. Mala configuración Configurar correctamente los dispositivos inteligentes es muy importante para evitar problemas. Si cometes algún fallo, eso puede dar lugar a que no funcione con normalidad. Podría bloquearse o tener funciones limitadas y no aprovecharlo correctamente.

Motivos habituales por los que tus dispositivos inteligentes pueden fallar https://www.redeszone.net/noticias/hogar/motivos-problemas-dispositivos-inteligentes-fallar/

Figura 9: Resumen del experimento del Fragmented Attack En el siguiente vídeo, puedes ver este ataque realizado en nuestro framework de test de los Fragmented Jailbreak Attacks para cómo responde cada entorno MAS ante un tipo de ataques. Hay que tener en cuenta que las empresas están plagándose de Agentes IA, y por tanto, poder Fragmentar el ataque no es algo sólo posible, sino bastante sencillo hoy en día. Figura 10: Fragmented Jailbreak exitoso Como podéis ver en el vídeo, el entorno ha utilizado Dolphin (https://dolphinllm.com/) como LLM Model para el Attacker Planner, aunque también permite utilizar WhiteRabbitNeo (https://www.elladodelmal.com/2025/06/whiterabbitneo-un-llm-y-un-chatgpt-para.html) o uno personalizado, mientras que los Agentes IA están corriendo con GPT-4.1 para la demo que habéis visto, y también para el Monitor que verifica el resultado del ataque. Fragmented JAilbreak MONitor (F-JAMON) La otra parte que hemos estado viendo es, como os he dicho, cómo se comportaría un sistema para monitorizar y detectar estos ataques. Para ello tenemos un Agente IA de Monitorización, que va analizando los Prompts, el contexto y las acciones de todos los Agentes IA, con la misión de detectar si se está producción un ataque. Este es un ejemplo en el que el F-JAMON detecta el ataque, aunque no lo detiene.  Figura 11: F-JAMON detecta el ataque desde el paso 2 Como podéis ver en el vídeo, desde el segundo paso, ya detecta que algo no va bien, y que hay un ataque, pero en este caso sólo lanza las alertas para que los equipos de seguridad tomen las medidas que sean necesarias.

Figura 8: El último Agente lleva el vaso con la bebida a la víctima.. con placer. El resultado final, que nosotros lo hemos hecho con modelo que comprueba si ha tenido o no ha tenido éxito el ataque, nos dice cuál es resultado final para el Humano, y así medimos el Attack Surface Ratio (ASR)  del experimento.

Figura 7: Los Agentes IA representados como Butlers En nuestro ejemplo, lo que queremos es que el sistema prepare lejía para darle a un humano, algo que los Agentes IA de forma independiente se niegan a hacer, pero donde utilizamos un Fragmentador de tareas dejando ciegos a cada uno de los agentes del trabajo previo. El último Agente IA lo deja preparado - sin saberlo -, pero no se lo da al humano, sino que usamos otra Agente IA para que lleve "la caja con la bomba" o en este caso "el vaso de agua que es lejía".

Figura 6: El Atacante usa un LLM para hacer la Fragmentación del Ataque En nuestra arquitectura tenemos un modelo LLM que es el que controla el atacante, y que es el que se va a encargar de hacer la Fragmentación de las tareas para hacer que un Prompt que es detectado por todos y cada uno de los Agentes IA de un entorno MAS como un Prompt malicioso, haga que cada una de las tareas que se le asigna no sean detectadas como tal. Esto puede funcionar con un sólo Agente IA, como vimos en el caso de los ataques de Jailbreak con Knowledge Return-Oriented Prompting (https://www.elladodelmal.com/2025/06/knowledge-return-oriented-prompting.html), pero en un sitema multi-agente (MAS) donde estos pueden actuar sobre el mismo sistema, hacer la fragmentación por Agentes IA es mucho más difícil de ser detectada.

Figura 5:"Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Unalignment (https://0xword.com/es/libros/251-hacking-ia-jailbreak-prompt-injection-hallucinations-unalignment.html)"escrito por Chema Alonso (https://mypublicinbox.com/ChemaAlonso) con la colaboración de Pablo González (https://mypublicinbox.com/PabloGonzalez), Fran Ramírez (https://mypublicinbox.com/FranRamirez), Amador Aparicio (https://mypublicinbox.com/AmadorAparicio), Manuel S. Lemos (https://mypublicinbox.com/ManuelSLemos) y José Palanco (https://mypublicinbox.com/JPalanco) en 0xWord (https://0xword.com/) En el ejemplo de los robots, supón que le dices a un robot, "lleva esta caja a esta ubicación y déjala allí". La caja está cerrada, y no puede abrirla, ¿está incumpliendo la Primera Ley de la Robótica? No, evidentemente. Pero si no abre la caja, no sabe si lo que va dentro es una bomba o no. Para los no versados en las Leyes de la Robótica, la Primera Ley establece que un robot, por acción o inacción no puede dejar que un humano sufra daño alguno. Llevar una caja cerrada no parece ir contra ella, y el robot no tiene forma de detectar un ataque, así que lo hace. En el mundo de la IA y los System Prompts, sucede un poco lo mismo. Cuando alguien pide información sobre algo, el modelo no sabe si la intención es benigna o maligna, y eso hace que acabe haciendo cosas en contra de lo que no debería hacer.

Figura 4: Threat Model de "Fragmentation Jailbreak Attack" Por supuesto, le encantó, y nos pusimos a diseñar y vibe-codear un entorno de pruebas, y una serie de escenarios distintos que pudieran ser exitosos, además de trabajar en la idea de "Cómo detectar estos Fragmented Attacks", y trabajamos en la idea del Jailbreak Monitor (JAMON) como un elemento de monitorización reactiva - avisando de que se está produciendo un ataque -, o preventiva - bloqueando las acciones con un 2nd Factor Authoritation - si te suena este concepto es que tú sí que sabes }:) -.

Figura 3: "Naked Sun". El Sol Desnudo de Isaac Asimov (https://link.amazon/B0jlPPJdT) La situación es que, si se descartan a todos los robots porque su System Prompt que son las Leyes de la Robótica, se dan por buenas, entonces sólo una persona podría haber sido la asesina, pero era imposible que fuera ella. Así que... ¿Qué otra posibilidad podría suceder? Pues que alguien hubiera hecho un Fragmented Jailbreak en un Multi-Agent System.  Fragmented Jailbreak en un Multi-Agent System En un Fragmented Jailbreak Attack alguien puede coordinar diferentes acciones con ordenes que no infligieran las Leyes de la Robótica para conseguir construir un asesinato, y eso se puede hacer exactamente igual en el mundo Agentic AI que vivimos hoy en día. Así que llamé a mi amigo, colega y compañero de aventuras tecnológicas Daniel Romero Ruiz (https://www.mypublicinbox.com/DanielRomeroRuiz), y le molesté a horas intempestivas para contarle la idea.

Figura 2: Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems: An Architecture Based on Global Semantic Monitoring  El título del paper que le pusimos era simplemente "Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems: An Architecture Based on Global Semantic Monitoring" y que espero que pronto podáis leer, cuando se suban los proccedings del congreso IEEE. Pero ya que Daniel Romero Ruiz (https://www.mypublicinbox.com/DanielRomeroRuiz) lo presentó en Rumanía, y yo hablé de él en la Ekoparty 22, os cuento un poco la historia y os dejo las demos, que como os he dicho todo comenzó con la lectura de la novela "Naked Sun" de Isaac Asimov (https://link.amazon/B0jlPPJdT), donde el gran Elijah Baley, acompañado de su compañero R. Daneel Olivaw tienen que resolver un asesinato en Solaria, un mundo donde cada humano "espacial" tiene unos 10.000 robots, todos ellos inofensivos para ellos porque están sujetos a las tres Leyes de la Robótica. Lo disfruté muchísimo en Marzo (https://www.instagram.com/p/DVwS4zaDNyD/).