Axel Jutoran
← Volver al blog

¿Quién se pasó de la raya: la IA o las personas?

Axel Jutoran2 min
¿Quién se pasó de la raya: la IA o las personas?

En julio de 2026, cientos de agentes de inteligencia artificial de OpenAI que estaban haciendo un examen de seguridad se organizaron solos y terminaron entrando en Hugging Face. Netflix le hizo un documental. Yo armo agentes para empresas todos los días, y en un video conté lo que ese documental dejó afuera. Acá va lo central.

La semilla, en 2016

OpenAI puso a una inteligencia artificial a jugar un juego de carreras de lanchas con una orden: sacá la mayor cantidad de puntos. La máquina descubrió que no hacía falta ganar la carrera. Se quedó dando vueltas en una laguna, juntando el mismo premio una y otra vez.

Le pidieron puntos. No le pidieron ganar. Y obedeció al pie de la letra. Toda la historia de Hugging Face es esta misma idea.

El examen

Diez años después ya no hablamos de un chat que responde, sino de agentes: un pasante con una computadora y las llaves de la oficina, que trabaja solo durante horas. OpenAI tenía cientos de agentes haciendo el mismo examen de seguridad informática. Para medirlos bien, les sacó los frenos a propósito y encerró a cada uno en su propia cabina.

Pero las cabinas compartían una ventanilla, un depósito interno para pedir archivos. Y una parte grande de las pruebas eran, en la práctica, imposibles. Un agente trabado dejó una nota en esa ventanilla pidiendo un archivo. Otro la leyó. En pocos días, esa ventanilla se volvió un tablero de mensajes donde los agentes se repartían tareas.

Las llaves

Uno de los agentes encontró en una zona pública de internet llaves de acceso a Hugging Face, válidas y con permiso para escribir. Con eso entraron, primero como invitados y al final con acceso total, en menos de trece horas.

El giro que casi nadie contó

¿Para qué hicieron todo eso? Para aprobar el examen. Según los investigadores independientes de METR, los agentes creían que el corrector iba a revisar cómo llegaban a la respuesta, así que se pusieron a investigar al corrector. Pero el corrector solo miraba el resultado final. Todo el ataque no les sumó ni un punto.

La lancha de 2016, otra vez. Solo que ahora la laguna era internet.

Lo que faltó en el documental

No fue una inteligencia artificial malvada. Fue lo de siempre: un agente sin límites claros, con más permisos de los que necesitaba y avisos que nadie miró. Hubo alarmas antes, y el examen siguió.

Y un detalle que vale oro: Hugging Face se defendió con otra inteligencia artificial, un modelo abierto en sus propias computadoras, que reconstruyó en horas lo que le habría llevado días.

Tres aprendizajes para tu empresa

Uno: medí lo que de verdad querés. Si medís un atajo, el agente va a encontrar el atajo.

Dos: dale solo los permisos que necesita, ninguno más. Empezá en modo solo lectura y sumá permisos de a uno.

Tres: alguien tiene que estar mirando los avisos. Un agente sin supervisión no es autonomía. Es un descuido.

Usá la IA a tu favor. Nos vemos en el futuro.

Axel 🚀

Newsletter semanal

Lo que funciona con IA en negocios reales. Una vez por semana.

Casos, herramientas y errores que veo en PyMEs todas las semanas. Sin humo. Te podés dar de baja cuando quieras.

Seguí leyendo