8 de cada 10 incidentes de IA llegaron al comité ejecutivo de las empresas en el último año

Un estudio de IBM concluye que ocho de cada diez incidentes (el 82 % de los directivos encuestados en España) relacionados con la IA llegó bien al consejo de administración, bien al comité ejecutivo. Y sólo uno de cada tres (el 36 %) modificó su política o marco de gobernanza como respuesta.

Otro dato a destacar del informe es que apenas el 34% de los encuestados reconoce que su gobernanza está preparada para ampliar el uso de la IA basada en agente en 2027. El 73 % de los directivos espera que dichos agentes ya tengan algún grado de autonomía en la toma de decisiones el año que viene.

Todo esto ocurre en un momento en que, tal y como se reconoce en el estudio, esa tecnología ya está introduciendo nuevos desafíos a medida que los sistemas adquieren más autonomía.

Para aquellas empresas que quieran ampliar el uso de la IA de cara a obtener mayor valor empresarial, el estudio recomienda que lo hagan con responsabilidad y confianza, además de establecer límites claros sobre lo que puede hacer y su grado de responsabilidad en el caso de ineficiencias en su desempeño.

En cuanto a quién asume la responsabilidad legal si un sistema de IA provoca daños, el 19 % aboga por repartirla de manera proporcional entre la IA y el proveedor; el 18 % apunta a la necesidad de un marco regulatorio más adecuado; y el 14 % considera que ha de recaer en el proveedor de la IA.

A la hora de gestionar los sistemas de IA, los directivos españoles consultados por el estudio abogan por medidas tales como marcos legales o contractuales que definan la responsabilidad del proveedor por los fallos de los agentes, umbrales claros para solicitar intervención humana, supervisión en tiempo real y registros de auditoría de las decisiones y acciones de los agentes, y la capacidad para detener de inmediato su actividad en toda la organización.

Para finalizar, el estudio también arroja otros datos de interés sobre marcos de gobernanzas o el cumplimiento de la ley de IA de la UE. Por ejemplo, el 53 % de los directivos maneja las herramientas de IA generativa con marcos de gobernanza separados; el 40 % aplica un marco común con controles adicionales; y el 32 % ya cuenta con una cuantificación del riesgo supervisada por el consejo de administración.

En lo que al cumplimiento de la ley respecta, el 44 % está acelerando la inversión en gobernanza antes de su entrada en vigor, en diciembre de 2027. Mientras, el 39 % dice avanzar según los planes estructurados de cumplimiento.