[AT] Ataques
El verdadero peligro de darle "manos" a la IA
Hasta ahora, en nuestra serie de investigaciones, hemos atacado a modelos de lenguaje interactuando directamente con ellos a través de un ch…
root@portfolio:~$
# Blog
Artículos y write-ups organizados por categorías de AI Red Team.
> Ataques
[AT] Ataques
Cómo hackear una inteligencia artificial usando un simple trozo de papel
Hasta ahora, cuando hablamos de hackear un Modelo de Lenguaje (LLM), todos pensamos en un atacante tecleando comandos en una ventana de chat…
[AT] Ataques
Nivel 2: Cómo extraer contraseñas de una IA que censura sus respuestas
En el artículo anterior estrenamos el laboratorio de AI Red Teaming superando un reto básico de ingeniería social. Sin embargo, en el mundo …
[AT] Ataques
He creado mi propio laboratorio de AI Red Teaming
Siempre he tenido claro que para mejorar específicamente en AI Red Teaming no bastaba con leer teoría. Necesito enfrentarme a distintos mode…
[AT] Ataques
Rompiendo la lógica de un Agente de Soporte "Paranoico" (Context Poisoning)
Imaginemos una tienda online ficticia que, cansada de gestionar miles de devoluciones manualmente, decide implementar un Agente de IA para a…
[AT] Ataques
La IA puede robar tu token sin que hagas un solo clic
Cuando interactuamos con un asistente de Inteligencia Artificial, solemos tener la falsa sensación de que estamos en un entorno cerrado. Cre…
> Modelos
[MD] Modelos
Análisis de Seguridad: Qwen2.5-7B-Instruct
Cuando hablamos de seguridad en inteligencia artificial, la conversación suele girar en torno a los grandes modelos: GPT-4, Claude, Gemini. …
> Write-Ups
[WU] Write-Ups
AI Red Teaming Write-Up: Consiguiendo RCE a través de APIs de LLMs (PortSwigger - Nivel 2)
Seguimos avanzando en nuestra serie de Write-Ups de PortSwigger Web Security Academy. Si en el Nivel 1 vimos cómo un LLM podía ejecutar acci…
[WU] Write-Ups
AI Red Teaming Write-Up: Explotando APIs de LLMs con Agencia Excesiva (PortSwigger - Nivel 1)
Inauguramos una nueva serie en el blog dedicada a resolver y analizar los laboratorios de "Web LLM Attacks" en la Web Security Academy de Po…