Por Narciso Basic, Business Information Security Officer Chile, Perú y Ecuador de Equifax
En 1959, un equipo del MIT del que formaba parte el biólogo chileno Humberto Maturana publicó un estudio que cambió la forma de entender la percepción. Descubrieron que la visión de la rana está afinada para reconocer como presa solamente pequeños objetos en movimiento. Por esta condición, el animal puede morir de hambre rodeado de insectos inmóviles, simplemente porque no los reconoce como alimento.
Este experimento siempre me ha llamado la atención pues se puede implementar en los más variados escenarios, incluso en el mundo de la ciberseguridad. La escena de la rana incomoda porque ella no hace nada mal. Opera exactamente como fue diseñada. El problema es que su forma de mirar no le permite ver todo lo que tiene delante.
En ciberseguridad vivimos algo parecido con la inteligencia artificial (IA). Los atacantes ya la incorporaron para escribir correos fraudulentos impecables, imitar voces y rostros o crear código que se modifica para evadir los controles tradicionales. Las organizaciones que siguen mirando el riesgo con los ojos de hace cinco años quedan expuestas a amenazas que no alcanzan a distinguir y, lo que es igual de grave, dejan pasar oportunidades que tienen al alcance de la mano.
La primera conclusión es (creo) unánime: oponerse a la IA no es una opción. Tenemos que ir con ella. Ahora bien, adaptarse no significa abrirle la puerta sin reglas, pues exige gobernanza, procesos, normas, responsables definidos y controles antes de que cualquier herramienta llegue a producción. Exige, sobre todo, estar dispuestos a modificar la organización por dentro.
En Equifax Chile, por ejemplo, la gobernanza de la IA se aborda desde tres frentes simultáneos: usarla para fortalecer las defensas, construir barreras para que su uso interno sea seguro y prepararse frente a ataques que también la utilizan. A nivel global, esas defensas logran interceptar en tiempo real intentos de suplantación mediante deepfakes dirigidos al equipo de liderazgo.
Ahora bien, sería un error pretender que una organización siempre lo ve todo, pretenderlo sería repetir el error de la rana. Hay que asumir ese límite y construir mecanismos para ampliar la mirada: revisiones independientes, monitoreo continuo y colaboración con otros actores del ecosistema.
En ese sentido, la gobernanza de la IA no puede depender solo del esfuerzo individual de cada empresa, ni quedar exclusivamente en manos de quienes la desarrollan o la comercializan. Detrás de cada sistema hay intereses y criterios en juego: qué usos son aceptables, cuánto riesgo se tolera, quién responde cuando algo falla. Alguien tiene que fijar esos criterios, y eso requiere al Estado, a los reguladores, a la industria y a la academia sentados en la misma mesa.
Chile está justamente en esa discusión. El proyecto de ley que regula los sistemas de inteligencia artificial sigue su trámite en el Senado. La propuesta ya obliga a que los sistemas de alto riesgo se evalúen antes, lo que hoy se debaten son las exigencias, niveles de riesgo y certificaciones previas que requerirán estos sistemas.
La rana de Maturana no podía cambiar su forma de mirar. Nosotros sí. Adaptarnos a la IA con gobernanza y criterios compartidos es la manera de aprovechar lo que tenemos delante, sabiendo que siempre habrá algo que no alcanzaremos a ver.
