El próximo punto caliente que genera la IA agéntica para las empresas: la responsabilidad.

Un nuevo punto de tensión corporativo surge para las compañías: el de quién es finalmente responsable cuando la IA agéntica hace algo y quién debe pagar por ello. Es una cuestión que preocupa a los CIO, cabezas del departamento de TI pero que están viendo cómo la inteligencia artificial multiplica su presencia y lo hace a veces por canales no sancionados. También es un tema que invita a los CISO a tener especial precaución. Pero, en paralelo, es una cuestión de negocio, porque los agentes de inteligencia artificial pueden, por su cuenta, paralizar la actividad.

Esto está creando otro punto candente, uno que a primera vista no parece tener nada que ver con las TI pero que, en realidad, está totalmente conectado. Es el de quién debe pagar los platos rotos.

Las compañías aseguradoras ofrecen pólizas a las empresas que cubren riesgos cibernéticos, pero el boom de la IA y, en especial, de la IA agéntica está llevando a que reajusten pólizas, cambien coberturas y dejen a las empresas en una situación nueva y compleja. Las crisis de las últimas semanas, con las rebeliones de las IA de OpenAI, Anthropic y Meta, ha evidenciado el problema.

Así, según apunta Reuters, las compañías aseguradoras están reajustando sus ciberpólizas y “adaptando su lenguaje”. Se lo han confirmado tanto analistas del mercado como directivos del sector. Las aseguradoras están redefiniendo qué entienden por responsabilidad, reajustando qué puede ser y qué no un ataque. Ahora, para que las pólizas cubran las pérdidas derivadas de un ataque, este debe llegar por un agente externo. Esto es, un hacker ataca y paraliza la operativa, lo que genera pérdidas y lo que cubre el seguro.

Sin embargo, ahora un agente IA puede hacer un ataque desde dentro, sin ser en inicio un ataque en sí. En su trabajo autónomo puede exponer datos, paralizar la operative y crear pérdidas. Y eso quedaría fuera de la cobertura de los seguros. “A medida que la IA se vuelve capaz de identificar vulnerabilidades y ejecutar ataques de forma autónoma, las aseguradoras deberán revisitar de forma continua el lenguaje de sus pólizas”, le dice a la agencia de noticias Ryan Kratz, responsable de la división ciber para Norteamérica de la aseguradora MSIG.

Las nuevas pólizas para la era de la IA cubrirán, así, riesgos como que los modelos no cumplan, que alucinen, que infrinjan derechos de propiedad intelectual o que den resultados engañosos. No es que estén apagando los seguros, sino que están volviendo más amplias las coberturas y añadiendo nuevos puntos de fricción. Algunas ya cubren “exposiciones por IA”. Se ve como un potencial amplificador de riesgos, como les aseguran desde la propia industria a Reuters.