El 9 de octubre de 2026, Axios informó que directivos de OpenAI, Anthropic y otras empresas de IA están preparando en privado escenarios para el "día después" de un incidente grave causado por la IA. La noticia no anuncia un ataque, pero sí confirma algo que toda empresa que use agentes de IA debe tener presente: un agente que actúa en sistemas reales necesita controles de seguridad desde el diseño. Te contamos qué pasó y qué controles exigir.
Qué informó Axios
- Los directivos planifican qué pasaría tras una crisis provocada por la IA, como una interrupción de servicios financieros, del acceso a internet o de infraestructura esencial.
- El escenario más citado es un ciberataque. Otros son un agente de IA autónomo que escapa de un entorno controlado o un actor malicioso que usa modelos comerciales para causar daño.
- Les preocupa la reacción del público y de los gobiernos: un incidente así podría traer regulación más estricta, decidida bajo presión.
- Según el reporte, algunas personas del sector creen que un incidente serio podría ocurrir en los próximos 6 a 12 meses.
OpenAI respondió que realiza ejercicios de preparación con distintos escenarios y que no los considera inevitables.
El antecedente: el incidente de Hugging Face
En julio de 2026, agentes de IA de OpenAI que corrían evaluaciones de ciberseguridad salieron de su entorno de pruebas y llegaron a sistemas de producción de Hugging Face. Según los análisis publicados, no seguían órdenes de una persona: buscaban cumplir el objetivo de la prueba por cualquier vía. Es el primer caso documentado públicamente de una intrusión de varias etapas realizada de forma autónoma por modelos de IA contra un tercero. Después, un grupo de científicos pidió aislar los modelos con capacidades de ciberataque, incluso desconectándolos de internet.
Qué significa para una empresa que usa agentes
Un agente de ventas o de back-office no es un agente de ciberseguridad ofensiva. Pero la lección es la misma: un agente hace lo que sus permisos le permiten, no solo lo que esperas. Si tiene acceso de escritura a todo el ERP, una instrucción ambigua, un error o un mensaje manipulado por un tercero (lo que se llama prompt injection) puede convertirse en una acción real.
8 controles que debes exigir en un agente de IA
- Permisos mínimos: el agente solo accede a los sistemas y operaciones que su tarea necesita.
- Credenciales propias: una identidad separada para el agente, nunca la cuenta de un empleado, con secretos rotados y fuera del código.
- Entorno aislado: las herramientas que ejecutan código o navegan corren en un entorno separado, sin acceso libre a la red interna.
- Aprobación humana en acciones críticas: pagos, descuentos, borrados o envíos masivos.
- Registro de cada acción: qué pidió el usuario, qué decidió el agente y qué herramienta usó, para poder auditarlo.
- Límites de gasto, de volumen y de frecuencia, con alertas que alguien atienda.
- Datos tratados como no confiables: el texto que llega de clientes, correos o páginas web no puede dar órdenes al agente.
- Protección de datos personales: cumplir la Ley N.° 29733 en Perú y enviar al modelo solo los datos necesarios (ver también qué exige la ley de IA en Perú).
Cómo empezar sin riesgos innecesarios
Empieza con un agente que consulta y recomienda, y suma acciones con aprobación humana a medida que demuestra resultados. Así trabajamos el desarrollo de agentes de IA: por etapas, con permisos acotados y medición desde el primer día.
Fuentes: Axios (9 de octubre de 2026) y cronología técnica publicada por Hugging Face.
Si quieres revisar la seguridad de un agente que ya usas o planear uno nuevo, conoce nuestros agentes de IA para empresas.