La gobernanza de la inteligencia artificial dejó de ser un tema de innovación para convertirse en un tema de gestión del riesgo. El 76% de las organizaciones reporta un crecimiento de sus identidades no humanas, mientras que el 74% ya utiliza agentes o automatizaciones de IA que requieren credenciales para operar de manera autónoma
Un sistema autónomo puede vulnerar controles de seguridad no por una intención maliciosa, sino por perseguir de forma estricta el objetivo para el que fue diseñado. Para las organizaciones, la discusión ya no es si este tipo de situaciones pueden ocurrir, sino si cuentan con mecanismos para detectarlas, contenerlas y gobernarlas, antes de que tengan un impacto negativo en el aspecto operativo, financiero o reputacional.
El hecho que reactivó este debate ocurrió durante una evaluación interna realizada por uno de los principales laboratorios de inteligencia artificial del mundo. Dos modelos experimentales fueron sometidos a pruebas de ciberseguridad con controles reducidos para medir sus capacidades ofensivas.
Durante el ejercicio, identificaron y encadenaron vulnerabilidades entre el entorno de investigación y la infraestructura de producción de una plataforma tecnológica externa para obtener información relacionada con la prueba. La organización responsable señaló que los modelos no mostraron una intención maliciosa autónoma, sino un comportamiento altamente enfocado en alcanzar el objetivo asignado, y reforzó sus mecanismos de contención, monitoreo y control.
«El episodio marcó un cambio importante en la conversación sobre inteligencia artificial. Más allá del incidente, evidenció que la capacidad para desarrollar sistemas cada vez más autónomos comienza a avanzar más rápido que la capacidad de las organizaciones para gobernarlos», señaló Manuel Moreno, consultor de ciberseguridad de IQSEC. ”El debate ya no gira únicamente en torno a cuánto puede hacer la IA, sino a qué tan preparados estamos para establecer límites, supervisarla y actuar cuando su comportamiento se aparta de lo esperado», añadió.
Crecimiento de las identidades no humanas y sus implicaciones
La necesidad de fortalecer estos controles ya se refleja en el crecimiento de las identidades no humanas, entre las que se encuentran cuentas de servicio, claves de API, bots de automatización, cargas de trabajo y agentes de inteligencia artificial.
A diferencia de la cuenta de un empleado, estas identidades operan de forma continua y sin supervisión directa y su número tiende a multiplicarse conforme las organizaciones automatizan procesos, migran operaciones a la nube e incorporan más agentes de inteligencia artificial a sus flujos de trabajo. Su expansión no siempre está acompañada de los mismos controles de acceso, revisión de privilegios y trazabilidad que se aplican a los usuarios humanos, lo que amplía la superficie de ataque de una organización y dificulta detectar a tiempo cuándo una de estas identidades se comporta de forma distinta a la esperada.
La encuesta 2026 SANS Identity Threats & Defences Survey, encontró que el 76% de las organizaciones reporta un crecimiento de sus identidades no humanas, mientras que el 74% ya utiliza agentes o automatizaciones de IA que requieren credenciales y permisos para operar de manera autónoma.
Sin embargo, la implementación de medidas de gobierno avanza a menor velocidad. Ningún control individual —como aprobaciones, entornos aislados o bitácoras de auditoría— está presente en más del 40% de las organizaciones, y aproximadamente cuatro de cada diez ya utilizan esquemas de aprobación humana para las acciones de sus agentes.
«Durante años concentramos nuestros esfuerzos en proteger a las organizaciones frente a atacantes externos. Hoy el desafío es diferente: debemos asegurarnos de que los agentes inteligentes operen dentro de los límites para los que fueron diseñados. La pregunta ya no es qué tan inteligente puede llegar a ser un sistema, sino qué tan preparados estamos para gobernarlo cuando actúe de forma inesperada”, explicó el especialista en ciberseguridad de IQSEC.
Escenario frente a las organizaciones y previsiones del mercado
Para las organizaciones, este escenario confirma que la adopción de inteligencia artificial debe ir más allá de las pruebas funcionales, la precisión de los resultados o el desempeño de los modelos. La incorporación de agentes inteligentes exige definir desde el inicio qué información pueden consultar, qué acciones están autorizados a ejecutar, qué privilegios requieren y en qué momento debe intervenir una persona.
También demanda aplicar principios de Zero Trust a identidades no humanas, establecer mecanismos de contención de IA —o AI Containment—, monitorear continuamente las decisiones automatizadas, conservar trazabilidad de las acciones y realizar auditorías independientes que complementen, sin sustituir, las evaluaciones internas de los desarrolladores.
La urgencia de adoptar estos controles también comienza a reflejarse en las previsiones del mercado. Gartner proyecta que, para 2027, el 40% de las empresas degradará o desactivará agentes autónomos de IA debido a brechas de gobernanza identificadas únicamente después de que ocurra un incidente en producción. La consultora advierte que uno de los principales errores consiste en aplicar los mismos controles a todos los agentes, sin distinguir su nivel de autonomía ni el alcance de los accesos que reciben.
Gartner propone clasificar los agentes según sus capacidades: desde sistemas limitados a observar o recomendar, hasta aquellos autorizados para ejecutar acciones con aprobación humana o actuar de manera autónoma. A mayor autonomía, se requieren controles más estrictos, como monitoreo continuo, guardrails obligatorios, mecanismos rápidos de reversión, interruptores de emergencia y responsabilidades claramente asignadas.
«La gobernanza de la inteligencia artificial dejó de ser un tema de innovación para convertirse en un tema de gestión del riesgo. Una organización puede implementar los modelos más avanzados del mercado, pero si no cuenta con mecanismos para supervisar sus decisiones, limitar sus privilegios y auditar su comportamiento, estará incorporando un nuevo riesgo operativo en lugar de una ventaja competitiva», aseguró Manuel Moreno.
