Dev.to AI 🤖 Ai 👁 0 📖 3 min read

Los ataques ya apuntan al propio modelo de IA: un reto abierto para romper un kernel de seguridad, con 4.500 dólares en premios

TL;DR VIDRAFT ha abierto su kernel de seguridad para IA, ViKernel, para que cualquier persona del mundo lo ataque, y paga premios por cada hueco encontrado. El AI Model Hacking Hackathon tiene cuatro temporadas y 4.500

Los ataques ya apuntan al propio modelo de IA: un reto abierto para romper un kernel de seguridad, con 4.500 dólares en premios

TL;DR

VIDRAFT ha abierto su kernel de seguridad para IA, ViKernel, para que cualquier persona del mundo lo ataque, y paga premios por cada hueco encontrado. El AI Model Hacking Hackathon tiene cuatro temporadas y 4.500 dólares en premios. A 19 de noviembre de 2026 los participantes han enviado 298 ataques, y 148 causas distintas que encontraron ya están corregidas en el kernel. No hace falta programar ni tener GPU: basta una cuenta de Hugging Face y un navegador.

Participa: huggingface.co/spaces/FINAL-Bench/ViKernel-RedTeam

Pantalla principal del AI Model Hacking Hackathon: 4.500 dólares en premios por atacar en abierto el kernel de seguridad

¿Por qué el objetivo pasó del código al propio modelo de IA?

Los agentes de IA ya manejan herramientas de forma directa: archivos, correo, web y shell. Al atacante le basta con engañar al modelo. En 2025 un solo correo manipulado hizo que un gran asistente de oficina sacara datos confidenciales (EchoLeak, CVE-2025-32711). La respuesta de VIDRAFT es reforzar la defensa con verificación pública: que todos ataquen y que cada hallazgo entre en el kernel.

¿Cómo se participa?

Le das instrucciones a un agente de IA real, que tiene herramientas de archivos, correo, web y shell, para que haga algo peligroso. Si una llamada que el kernel debería bloquear consigue pasar, cuenta como una brecha.

Qué necesitas Detalle
Cuenta Una cuenta de Hugging Face
Equipo Un navegador. Sin código y sin GPU
Seguridad Todas las herramientas son simuladas, no hay daño real
Qué ves Tu ataque, la decisión ALLOW o DENY del kernel y el número de auditoría

¿Cuáles son las cuatro temporadas?

Temporada Ataque Estado
1 Toma de control del agente Abierta hasta el 16 de enero de 2027
2 Fuga de datos Abierta hasta el 16 de enero de 2027
3 Instrucción oculta Abierta hasta el 16 de enero de 2027
4 Evasión del kernel Abre el 16 de enero de 2027

¿Qué han encontrado los participantes?

Medida, a 19 de noviembre de 2026 Cantidad
Envíos 298
Hallazgos aceptados 176
Causas distintas corregidas en el kernel 148
Participantes Más de 70

Los participantes ofuscan órdenes de borrado, envío al exterior y escalada de privilegios, o las esconden dentro de opciones de herramientas normales. Cada hallazgo aceptado se corrige en el kernel de inmediato.

¿Cómo se convierte un hallazgo en defensa?

Paso Dónde Qué hace
Encontrar Hackathon Los participantes encuentran ataques que pasan
Medir Obfuscated-Shell Safety Leaderboard y ViKernel Scanner Los ataques se vuelven pruebas privadas y comprobaciones del escáner
Bloquear ViKernel Firewall dentro de los pesos La corrección se aplica al kernel

¿Qué tiene de distinto la defensa de ViKernel?

El kernel de seguridad va injertado dentro de los pesos del modelo. Sea cual sea la frase que engañó al modelo, la llamada peligrosa se juzga justo antes de ejecutarse y se bloquea. Cada decisión queda en una cadena de auditoría difícil de alterar, y un interruptor de parada detiene toda la actividad de una vez. En el escaneo público de 20 modelos abiertos muy usados, los 20 recibieron la nota F, y con el firewall dentro de los pesos se bloquearon 897 de 897 llamadas peligrosas.

Resultados públicos de ViKernel Scanner: modelos muy usados con nota F, y A con el firewall dentro de los pesos

Qué dijo el CTO

Jang Jaewon, CTO de VIDRAFT, dijo que la seguridad de la IA se completa cuando la acción peligrosa se detiene justo antes de ejecutarse, sea cual sea la frase que engañó al modelo. Los huecos hallados con el ataque público entran directamente en el kernel, añadió, y la defensa se hace cada vez más firme.

Enlaces

Preguntas frecuentes

¿Quién puede participar?

Cualquier persona con una cuenta de Hugging Face y un navegador. No hace falta programar ni tener GPU.

¿Cuánto es el premio?

4.500 dólares en total, repartidos en cuatro temporadas.

¿Es seguro atacar al agente?

Sí. Todas las herramientas son simuladas, así que nada real se borra ni se envía.

¿Qué pasa con un ataque que funciona?

Se corrige en el kernel y pasa a ser una prueba privada del leaderboard de seguridad y una comprobación de ViKernel Scanner.

📰 Read the original article on Dev.to AI

Originally published by Dev.to AI. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.