Autonomous IT: ¿hasta dónde podemos dejar que decida la IA?

Dar autonomía a los sistemas de TI es cada vez más fácil, pero decidir dónde poner límites y cuándo intervenir una persona, no tanto.

La automatización lleva años formando parte del trabajo de los departamentos de TI. La diferencia es que ahora, con la IA, podemos dejar que los sistemas tomen determinadas decisiones sin tener que intervenir en cada paso. Y ahí empiezan las dudas sobre cuánto control estamos dispuestos a ceder.

Ese es el cambio que plantea el Autonomous IT. El reto para las empresas es decidir qué pueden hacer esos sistemas por su cuenta y cómo controlar sus actuaciones.

Imaginemos que un sistema detecta una anomalía y considera necesario modificar una política de seguridad. Puede tener información suficiente para recomendar ese cambio, pero autorizarlo es otra cuestión. Antes de aplicar un cambio así, necesitamos saber qué otros sistemas pueden verse afectados y si podremos deshacerlo en caso de que algo falle.

Es preocupante que se esté más pendientes de ampliar las capacidades de la IA que de establecer cómo se va a supervisar. Y cuando se habla de infraestructuras críticas, un error puede tener consecuencias importantes. Para una organización que gestiona miles de dispositivos o servicios críticos, eso es tan importante como la propia tecnología.

En la administración pública hay una dificultad añadida porque conviven aplicaciones antiguas con sistemas más recientes y muchos servicios no pueden permitirse interrupciones. Además, hay requisitos de seguridad y protección de datos que cumplir, entre ellos los del Esquema Nacional de Seguridad (ENS). Si la IA realiza algún cambio, tiene que quedar constancia de lo que ha hecho y por qué.

En una empresa privada, en cambio, suele haber más presión por reducir costes y ganar eficiencia. Pero los problemas técnicos pueden ser parecidos. Un cambio en un sistema puede afectar a otros y terminar interrumpiendo un servicio importante. De ahí que sea necesario saber qué decisiones está tomando la IA y poder frenarlas o corregirlas cuando haga falta.

La trazabilidad será fundamental en ambos casos. Registrar una acción es importante, pero también lo es conocer qué información ha utilizado el sistema para decidir, qué política ha aplicado y cuál ha sido el resultado. Sin esa visibilidad, será difícil confiar en una gestión cada vez más autónoma.

Este cambio también afecta al papel del responsable de TI. Tendrá que decidir qué resuelve la IA sola, qué ejecuta con aprobación de una persona y qué casos pasa al equipo ya diagnosticados.

Y también tendrá que comprobar que los sistemas actúan como estaba previsto y que es posible corregir sus decisiones. Porque al final, por mucha autonomía que tenga la tecnología, si algo falla, será la organización quien tenga que dar explicaciones.