La expansión de los agentes de inteligencia artificial está poniendo a prueba los mecanismos de control de las empresas. Un nuevo estudio de IBM revela que, aunque la mayoría de las organizaciones reconoce los riesgos asociados a la IA, sus sistemas de gobernanza todavía no evolucionan al mismo ritmo que la tecnología.
La inteligencia artificial ha dejado de ser una tecnología experimental para convertirse en una herramienta cada vez más integrada en las operaciones empresariales. Su capacidad para automatizar procesos, analizar grandes volúmenes de información y ejecutar tareas complejas está transformando la manera en que trabajan las organizaciones. Sin embargo, esta evolución también plantea nuevos desafíos relacionados con la seguridad, la responsabilidad y el control de los sistemas inteligentes.
Según un estudio publicado por IBM el 14 de octubre de 2026, el 80% de los directivos encuestados en Europa y Oriente Medio afirma que al menos un incidente relacionado con la inteligencia artificial llegó a conocimiento del consejo de administración o de la alta dirección durante el último año. A pesar de ello, únicamente el 40% de las organizaciones afectadas modificó sus políticas o marcos de gobernanza como consecuencia de estos acontecimientos.
Los resultados reflejan una realidad cada vez más evidente: la adopción de inteligencia artificial avanza rápidamente, pero los mecanismos necesarios para supervisarla, controlar sus decisiones y gestionar sus riesgos no siempre están preparados.
En este escenario, la gobernanza de la inteligencia artificial se convierte en un elemento estratégico para garantizar que la automatización y los agentes de IA puedan aportar valor sin comprometer la seguridad, la transparencia o la continuidad de las operaciones.
La gobernanza de la inteligencia artificial entra en la agenda de la alta dirección
La investigación de IBM, realizada entre más de 3.200 directivos de grandes organizaciones de ocho países europeos y de Oriente Medio, muestra cómo los riesgos asociados a la IA han pasado a ocupar un lugar relevante en las decisiones corporativas.
Los incidentes identificados incluyen fallos de agentes inteligentes, exposición de información, errores en decisiones automatizadas y vulneraciones de seguridad relacionadas con sistemas de inteligencia artificial.
Estos acontecimientos tienen implicaciones que van más allá de los departamentos tecnológicos. Una decisión incorrecta de un agente de IA puede afectar a clientes, proveedores, procesos financieros o compromisos regulatorios. Del mismo modo, una exposición de datos puede provocar consecuencias operativas, económicas y reputacionales.
Por este motivo, la supervisión de la inteligencia artificial ya no puede recaer exclusivamente en los equipos de TI. La dirección debe participar en la definición de las políticas de uso, los niveles de riesgo aceptables y las responsabilidades asociadas a las decisiones automatizadas.
El estudio revela que el 98% de los directivos encuestados afirma que su organización ha asignado formalmente responsabilidades sobre los riesgos de IA a nivel del consejo de administración. Sin embargo, esta asignación no siempre se traduce en procedimientos claros para gestionar los problemas derivados de sistemas autónomos.
La diferencia entre reconocer un riesgo y disponer de mecanismos efectivos para controlarlo constituye uno de los principales retos de la gobernanza empresarial.
Los agentes de IA aceleran la necesidad de establecer nuevos controles
Uno de los aspectos más relevantes del informe es el crecimiento de la inteligencia artificial agéntica, también conocida como agentic AI.
A diferencia de los asistentes tradicionales, que generalmente responden a instrucciones concretas, los agentes de IA pueden interpretar objetivos, planificar acciones, utilizar herramientas y ejecutar determinadas tareas con distintos niveles de autonomía.
Esta capacidad abre nuevas oportunidades para la automatización empresarial, especialmente en procesos que requieren combinar información, tomar decisiones y coordinar diferentes sistemas.
En áreas como finanzas, recursos humanos, atención al cliente, logística o gestión documental, los agentes inteligentes pueden contribuir a reducir tareas manuales, acelerar operaciones y mejorar la capacidad de respuesta de las organizaciones.
No obstante, cuanto mayor es la autonomía de estos sistemas, mayor es también la necesidad de establecer límites operativos y mecanismos de supervisión.
Según IBM, el 35% de los directivos encuestados indica que su organización ya utiliza inteligencia artificial agéntica en entornos de producción. Además, el 75% espera que los agentes de IA dispongan de algún grado de autonomía en la toma de decisiones para 2027.
Frente a estas expectativas, solo el 37% considera que sus actuales sistemas de gobernanza están diseñados para escalar al ritmo de la implantación de agentes inteligentes.
Esta diferencia evidencia que muchas organizaciones están incorporando capacidades avanzadas de IA antes de haber desarrollado completamente las estructuras necesarias para supervisarlas.
La cuestión ya no consiste únicamente en determinar qué procesos pueden automatizarse, sino en establecer cómo deben actuar los agentes, qué decisiones pueden tomar y en qué circunstancias es necesaria la intervención humana.
El desafío de equilibrar innovación, seguridad y cumplimiento
Las organizaciones buscan mejorar su productividad, reducir costes operativos y aprovechar nuevas oportunidades competitivas. Sin embargo, esta necesidad de innovación puede entrar en conflicto con los tiempos necesarios para desarrollar políticas de seguridad, cumplimiento y gobernanza.
El estudio de IBM refleja esta tensión. Cuando una organización quiere desplegar inteligencia artificial más rápidamente de lo que permiten sus marcos de control, el 56% de los directivos afirma que continúa con la implantación dentro de unos límites de riesgo previamente acordados mientras adapta sus mecanismos de gobernanza.
Por el contrario, el 33% señala que su organización retrasa el despliegue hasta que sus sistemas de control están preparados.
Ambas aproximaciones muestran que la gobernanza de la inteligencia artificial está adquiriendo una importancia creciente en las decisiones de inversión tecnológica.
El objetivo no debería ser frenar la innovación, sino integrar los mecanismos de control desde las primeras fases de cada proyecto.
Esto implica evaluar los riesgos antes de desplegar una solución, definir los permisos de acceso, establecer procedimientos de validación y garantizar que las decisiones de los sistemas inteligentes puedan revisarse posteriormente.
Cuando estos elementos forman parte del diseño de una iniciativa de automatización, las organizaciones pueden avanzar con mayor confianza y reducir la probabilidad de tener que introducir cambios complejos una vez que la tecnología ya está operativa.
¿Quién es responsable de las decisiones de un agente de IA?
La responsabilidad constituye otro de los grandes desafíos identificados por IBM.
Aunque la mayoría de las organizaciones ha asignado responsabilidades generales sobre los riesgos de inteligencia artificial, todavía existe incertidumbre acerca de quién debe responder cuando un agente autónomo provoca un resultado negativo.
El informe señala que los directores de tecnología o sistemas, CIO y CTO, son los cargos mencionados con mayor frecuencia como responsables de estos resultados, pero únicamente por el 17% de los encuestados.
Esta falta de consenso refleja la complejidad de gestionar tecnologías que pueden actuar sobre diferentes sistemas, utilizar información de múltiples fuentes y ejecutar acciones sin requerir aprobación humana en cada paso.
Además, la responsabilidad puede involucrar a varios participantes: la empresa que utiliza la solución, el proveedor tecnológico, los responsables del proceso y los equipos encargados de supervisar su funcionamiento.
Para abordar esta situación, los directivos identifican distintas necesidades de cara a una mayor autonomía de los agentes: marcos contractuales que delimiten la responsabilidad de los proveedores, criterios claros de escalado a personas, sistemas de monitorización en tiempo real y mecanismos que permitan detener inmediatamente la actividad de un agente cuando sea necesario.
Estos requisitos ponen de manifiesto que la gobernanza de IA debe contemplar tanto aspectos organizativos y legales como capacidades técnicas de control.
La trazabilidad y la supervisión, fundamentales para una IA empresarial fiable
A medida que los agentes inteligentes participan en procesos críticos, las empresas necesitan conocer qué acciones ejecutan, por qué las realizan y qué información utilizan para tomar decisiones.
La trazabilidad permite reconstruir la actividad de un sistema y facilita la identificación de errores, comportamientos inesperados o posibles incumplimientos.
En un proceso financiero automatizado, por ejemplo, no basta con conocer el resultado de una operación. También puede ser necesario comprobar qué datos se consultaron, qué reglas se aplicaron y qué decisiones tomó el agente antes de completar la tarea.
Del mismo modo, en un proceso de atención al cliente, una organización debe poder supervisar las actuaciones de sus sistemas inteligentes y establecer cuándo corresponde transferir una interacción a un profesional.
La gobernanza efectiva requiere combinar diferentes capacidades: monitorización continua, registros de actividad, gestión de permisos, validación de decisiones sensibles y procedimientos de intervención humana.
La supervisión humana resulta especialmente importante cuando una decisión automatizada puede producir consecuencias significativas para clientes, empleados o para la propia organización.
En este contexto, la automatización inteligente debe diseñarse como un entorno controlado en el que las capacidades de IA se integren con reglas de negocio, procedimientos operativos y mecanismos de seguridad.
El objetivo es aprovechar la autonomía de los agentes sin perder visibilidad sobre los procesos empresariales.
El riesgo económico de la inteligencia artificial sigue siendo difícil de medir
Otro de los hallazgos destacados del informe es la limitada capacidad de las organizaciones para cuantificar las consecuencias financieras de una gobernanza insuficiente.
Aunque los riesgos de IA están presentes en la agenda de los consejos de administración, únicamente el 37% de los encuestados afirma que su organización dispone de una cuantificación formal del riesgo financiero derivado de las deficiencias de gobernanza, revisada por el consejo.
Esta situación plantea dificultades para valorar adecuadamente el impacto de posibles incidentes.
Los costes asociados a un fallo de inteligencia artificial pueden incluir interrupciones operativas, pérdidas económicas, investigaciones internas, medidas correctivas o daños reputacionales.
Por ello, resulta conveniente incorporar los riesgos de IA a los sistemas habituales de gestión de riesgos empresariales.
La evaluación económica permite priorizar controles, justificar inversiones en seguridad y establecer criterios más claros para decidir qué procesos pueden automatizarse y bajo qué condiciones.
También facilita que la alta dirección comprenda que la gobernanza de la inteligencia artificial no representa únicamente una obligación de cumplimiento, sino una inversión relacionada con la estabilidad y sostenibilidad de las operaciones.
Los proveedores tecnológicos también forman parte del riesgo
La creciente integración de herramientas de inteligencia artificial desarrolladas por terceros añade una nueva dimensión a la gobernanza empresarial.
Las organizaciones utilizan plataformas, modelos, aplicaciones y servicios de distintos proveedores, lo que puede dificultar la supervisión completa de sus sistemas.
Según IBM, el 54% de los directivos encuestados reconoce limitaciones en la cobertura que sus marcos de gobernanza ofrecen sobre los sistemas y modelos de IA utilizados por proveedores, socios tecnológicos y participantes de su cadena de suministro.
Además, únicamente el 21% indica que su organización supervisa continuamente los riesgos de IA de terceros.
Estos datos evidencian la importancia de extender las políticas de control más allá de las herramientas desarrolladas internamente.
Antes de incorporar una solución de inteligencia artificial, las empresas deben analizar aspectos como la seguridad de los datos, la gestión de accesos, las garantías del proveedor, las capacidades de auditoría y los mecanismos disponibles para controlar su funcionamiento.
Una estrategia sólida de automatización empresarial necesita tener en cuenta el conjunto del ecosistema tecnológico y no únicamente las aplicaciones individuales.
El AI Act europeo impulsa la gobernanza de IA
El marco regulatorio también está influyendo en la manera en que las organizaciones planifican sus inversiones tecnológicas.
La Ley de Inteligencia Artificial de la Unión Europea, conocida como AI Act, establece un marco basado en niveles de riesgo y contempla obligaciones específicas para determinados sistemas de inteligencia artificial.
En este contexto, IBM señala que el 41% de los directivos encuestados en la Unión Europea está acelerando sus inversiones en gobernanza ante las obligaciones regulatorias previstas, mientras que otro 35% afirma seguir planes estructurados de cumplimiento.
Más allá de los calendarios concretos de aplicación, el marco europeo refuerza la necesidad de adoptar medidas de gestión de riesgos, documentación, supervisión humana y transparencia cuando correspondan según el tipo de sistema y su utilización.
Para las empresas, esto supone integrar el cumplimiento normativo en sus estrategias de transformación digital y automatización.
La gobernanza de la inteligencia artificial debe convertirse en una capacidad transversal, capaz de conectar los objetivos tecnológicos con los requisitos legales, las políticas internas y las necesidades operativas.
Automatización inteligente y gobernanza: el camino hacia una IA escalable
Los resultados del estudio de IBM ponen de manifiesto que el siguiente gran desafío de la inteligencia artificial empresarial no será únicamente desarrollar agentes más avanzados, sino conseguir que puedan operar de manera segura, supervisada y alineada con los objetivos de negocio.
En este escenario, las plataformas de automatización inteligente desempeñan un papel relevante al permitir combinar agentes de IA, automatizaciones tradicionales, reglas empresariales y participación humana dentro de procesos coordinados.
La combinación de inteligencia artificial y automatización ofrece oportunidades para mejorar la eficiencia, pero su implantación debe acompañarse de una arquitectura adecuada, criterios de supervisión y mecanismos de control.
En RPA Technologies, como especialistas en automatización inteligente e inteligencia artificial y partner de UiPath, ayudamos a las organizaciones a identificar oportunidades de automatización y a integrar estas capacidades en sus procesos de negocio.
La conclusión que deja el informe de IBM es clara: la competitividad futura no dependerá únicamente de cuánta inteligencia artificial incorpore una organización, sino de su capacidad para gestionarla de forma responsable y convertirla en resultados sostenibles.
La gobernanza de la inteligencia artificial deja así de ser un aspecto secundario para convertirse en uno de los pilares de la automatización empresarial.