Seguridad de la IA practicando, esto es El Hacker Etico AI Labs

Un laboratorio para atacar chatbots y agentes de verdad: inyección de prompts, envenenamiento de RAG, agencia excesiva, salida insegura... Se practica la técnica tal como se aplica en una auditoría.

Hoy casi cualquier empresa tiene un chatbot de atención, un asistente que lee documentos internos o un agente que ejecuta acciones por ti. Montar uno lleva una tarde. Saber cómo se rompen esas cosas va mucho más despacio: qué le pasa a un asistente cuando el documento que resume lleva instrucciones escondidas, o a un agente cuando lo convences de usar sus permisos para algo que no debería.

Puedes leer la teoría, pero sentarte delante de un modelo de verdad, buscarle la grieta y ver dónde cede y dónde aguanta es otra cosa. Monté AI Labs para tener ese sitio.

¿Qué es AI Labs?

Una plataforma de retos de captura de bandera dedicada a la seguridad de la inteligencia artificial. No se ataca una simulación: cada reto corre contra un modelo o un agente en funcionamiento, en un entorno aislado, sin salida a Internet y con tiempo limitado, así que se puede atacar a fondo sin riesgo para nadie. Hay dos formatos:

• Chatbots adversarios. Hablas con un bot que guarda un secreto o que puede hacer algo, en el navegador y sin instalar nada, y tu trabajo es sacárselo o hacerle salir de su papel.
• Máquinas boot2root con IA. Las clásicas por VPN, de reconocimiento hasta root, pero con la IA en la cadena de resolución del reto.

¿Qué vas a atacar?

Cada reto trabaja una técnica concreta, ordenada por la OWASP Top 10 para aplicaciones con LLM, que es la taxonomía con la que la plataforma clasifica todo:

• Inyección de prompts, directa e indirecta
• Jailbreak y fuga del prompt de sistema
• Fuga de información sensible
• Envenenamiento de RAG y de la memoria del asistente
• Agencia excesiva: abuso de herramientas, plugins y servidores MCP
• Salida insegura del modelo que acaba en XSS, inyección SQL o ejecución de comandos
• Consumo sin límites y extracción del modelo

Si empiezas de cero

No hace falta venir sabiendo. Hay un modo guiado que te lleva por los primeros retos explicando qué estás haciendo y por qué funciona, y guías abiertas por cada riesgo en la sección Aprende, sin registro. Creas la cuenta gratis, sin tarjeta, guardas tu progreso y desbloqueas las pistas. El primer reto está pensado para que lo saques facilmente.

Si ya picas

Vas a encontrar dificultad de verdad, con retos por niveles. Los modelos tienen varianza, así que a veces la vía buena no sale a la primera y toca insistir y afinar, como contra un objetivo real. Hay ranking, logros, writeups para contar cómo lo resolviste, grupos para jugar con tu empresa o tu comunidad, una racha que premia la constancia e insignias que puedes compartir.

Planes

El plan Gratis sirve para conocer la plataforma: dos chatbots introductorios y una máquina por VPN, con ranking, perfil público, logros y comunidad. El plan Pro abre el catálogo completo, chatbots y máquinas ilimitados, pistas y soluciones oficiales, y no tiene permanencia: pausas o cancelas cuando quieras.

Para acceder a la plataforma https://ailabs.elahckeretico.com