Sabemos que la integración de la inteligencia artificial en las empresas ofrece oportunidades, pero también conlleva riesgos, máxime con la llegada de sistemas cada vez más potentes.
Al principio, en la mayoría de las empresas, la IA se utilizaba únicamente para generar textos o detectar errores, por lo que los riesgos estaban relativamente limitados, aunque también entonces se dieran incidentes de seguridad.
Pero la situación se complica con la participación de la IA en los procesos operativos de la empresa, lo que implica su conexión con las aplicaciones empresariales y el acceso a datos sensibles.
Hablamos de asistentes que pueden acceder al correo para resumir mensajes, consultar los sistemas de la empresa antes de responder a un cliente, revisar documentación interna, preparar presupuestos o ejecutar acciones en una aplicación corporativa (registrar un pedido, actualizar el estado de una factura, tramitar una devolución, etc.).
A todo ello, se une que las funciones IA empiezan a incorporarse directamente en programas que las empresas ya usan.
Así, aumentan los riesgos de que se produzcan errores e incidentes de seguridad con repercusiones en el funcionamiento, las cuentas de negocio y hasta la reputación de la organización.
El problema de base es que las empresas están ampliando su dependencia de la inteligencia artificial sin haber desplegado políticas de gobernanza y control, e incluso sin llegar a disponer siquiera de una visión completa de dónde la están utilizando.
Es aquí donde entra en juego el concepto AI Trust, Risk and Security Management, abreviado como AI TRiSM.
¿Qué es AI TRiSM?
AI TRiSM es un enfoque desarrollado por Gartner, que propone un marco para gestionar la confianza, el riesgo y la seguridad de los sistemas de inteligencia artificial.
Su punto de partida es que no basta con aprobar una política interna en la que se establezca qué usos de la IA están permitidos.
Las reglas escritas fijan expectativas, pero no pueden impedir por sí solas que un sistema acceda a información indebida, genere una respuesta problemática o actúe al margen de su función asignada.
Por ello, es necesario acompañar esas políticas con controles aplicables durante el funcionamiento de la IA, incluyendo mecanismos de supervisión, validación y verificación del cumplimiento.
Llevado a una empresa corriente, la adopción de AI TRiSM comienza con preguntas bastante concretas:
- ¿Qué herramientas de IA se están utilizando?
- ¿Qué información reciben?
- ¿A qué aplicaciones pueden conectarse?
- ¿Quién revisa sus resultados?
- ¿Queda constancia de las acciones realizadas?
- ¿Se puede bloquear rápidamente su acceso?
No todas las organizaciones necesitan desplegar una compleja plataforma de gobierno de IA. Pero, al menos, sí deberían conocer sus usos y aplicar controles proporcionales a sus riesgos.
¿Cómo se aplicaría AI TRiSM en una empresa?
- El primer paso sería elaborar un inventario. Sin limitarse solo a herramientas o chatbots implementados conscientemente, al tener que incluirse también las funciones IA incorporadas en softwares externos.
- A partir de ahí, deben clasificarse los usos de la IA según las consecuencias que podría tener un fallo.
- También resulta esencial limitar los accesos: una herramienta IA debería disponer únicamente de los datos y permisos imprescindibles para realizar su función.
- Las acciones con consecuencias importantes deben mantener algún grado de intervención humana.
- Por último, hay que registrar y supervisar su actividad.
Los problemas a la hora de aplicar AI TRiSM
Todo esto suena razonable sobre el papel, pero llevarlo a la práctica resulta complejo, y más para la empresa promedio de recursos limitados.
Las grandes organizaciones pueden desplegar soluciones específicas de monitorización y contar con equipos especializados. Una pyme, en cambio, tendrá que priorizar, centrándose en los usos que afecten a información crítica, clientes o procesos esenciales.
Además, una empresa pequeña será más sensible al conflicto entre productividad y seguridad, tendiendo a elegir la primera.
Con todo, sí que se debería aplicar AI TRiSM u otro esquema de seguridad en sus principios básicos: elaborar un inventario, clasificar los riesgos, restringir los accesos y mantener supervisión humana en las decisiones importantes. Medidas que deberían ser asumibles por todas las organizaciones.