IA · Agentes · Gobernanza

No todos los agentes de IA son iguales

Cómo medir su verdadero nivel de autonomía y decidir qué permisos, supervisión y gobernanza necesita cada uno dentro de una empresa.

Agentes IA Arquitectura de IA Gobernanza Diseño organizativo
Perfil agéntico Ejemplo
Autonomía Alta
Eficacia Alta
Complejidad de objetivos Media
Generalidad Media-alta

El nivel de agencia determina qué permisos, límites, trazabilidad y supervisión necesita el sistema.

Un agente que recomienda una acción y otro que puede ejecutarla sin pedir permiso utilizan inteligencia artificial. Pero no tienen el mismo nivel de autonomía y, por tanto, tampoco deberían tener los mismos permisos, controles o mecanismos de supervisión.
Antes de hablar de agentes

Decir “tenemos un agente de IA” empieza a ser insuficiente

Las empresas están incorporando agentes comerciales, asistentes de atención al cliente, agentes de voz, sistemas conectados a CRM, automatizaciones inteligentes y agentes capaces de utilizar distintas herramientas.

Y estamos utilizando la misma expresión —agente de IA— para describir sistemas con capacidades radicalmente diferentes.

Uno puede limitarse a responder una pregunta. Otro puede recomendar una acción. Otro puede prepararla y pedir autorización. Y otro puede decidir qué hacer, utilizar diferentes herramientas y ejecutar acciones hasta alcanzar un objetivo.

La tecnología puede parecer similar. El nivel de agencia no lo es.

Por eso, antes de preguntarnos qué agente queremos implementar, necesitamos responder algo más importante:

¿Qué grado de autonomía queremos introducir realmente dentro de la organización?

Esta pregunta afecta a tecnología, pero también a procesos, responsabilidades, permisos, riesgo y diseño organizativo.

Un nuevo marco

La capacidad agéntica no es una característica binaria

Un trabajo publicado en Nature por investigadores de Google DeepMind y Carnegie Mellon propone analizar los sistemas agénticos utilizando cuatro dimensiones.

01

Autonomía

Hasta qué punto puede actuar sin intervención humana.

02

Eficacia

Qué capacidad real tiene para alcanzar el objetivo.

03

Complejidad

Cuánto debe decidir por sí mismo para alcanzar un resultado.

04

Generalidad

En cuántos contextos y situaciones diferentes puede actuar.

La combinación de estas cuatro variables permite pasar de una etiqueta genérica —“agente”— a algo mucho más útil: su perfil agéntico.

01 · Autonomía

¿Hasta dónde puede actuar sin nosotros?

Imaginemos un proceso comercial.

Un sistema detecta que un cliente lleva seis meses sin comprar y recomienda al comercial contactar con él.

Otro redacta el mensaje y espera autorización.

Otro lo envía automáticamente siguiendo unas reglas establecidas.

Y otro analiza toda la cartera, identifica oportunidades, decide qué clientes priorizar, selecciona cuándo contactar, mantiene la conversación y agenda una reunión.

Recomendar → Preparar → Ejecutar → Decidir + ejecutar

Todos utilizan IA, pero no estamos delegando lo mismo.

Cuanto mayor sea la autonomía, mayor será también la capacidad del sistema para producir consecuencias reales sin intervención humana previa.

02 · Eficacia

No importa solamente qué puede hacer. Importa qué capacidad tiene para conseguirlo.

Imaginemos dos agentes comerciales con exactamente los mismos permisos.

Ambos pueden consultar el CRM, contactar con clientes y gestionar reuniones.

El primero completa correctamente una parte limitada de los procesos. El segundo identifica oportunidades, mantiene conversaciones y logra el objetivo de forma consistente.

Formalmente pueden tener la misma autonomía. Operativamente, no tienen la misma capacidad de intervención sobre el negocio.

La eficacia convierte una posibilidad técnica en capacidad real.

Un agente autónomo pero poco eficaz presenta un perfil. Un agente autónomo y altamente eficaz presenta otro completamente diferente.

03 · Complejidad del objetivo

Ejecutar una tarea no es lo mismo que perseguir un resultado

Comparemos estas tres instrucciones:

“Consulta el estado de este pedido.”

“Resuelve la incidencia de este cliente.”

“Reduce las incidencias relacionadas con entregas.”

En la primera prácticamente hemos definido la acción.

En la segunda, el agente tendrá que decidir algunos pasos intermedios.

En la tercera, estamos definiendo un resultado y dejando abierta buena parte del camino para alcanzarlo.

  • Analizar información.
  • Identificar patrones.
  • Priorizar problemas.
  • Seleccionar herramientas.
  • Ejecutar acciones.
  • Evaluar resultados.
  • Modificar su estrategia.
Automatizar una tarea significa definir previamente qué debe ocurrir. Delegar un objetivo significa permitir que la IA decida, al menos en parte, cómo conseguirlo.
04 · Generalidad

¿En cuántas situaciones diferentes puede intervenir?

Un agente puede estar diseñado exclusivamente para consultar el estado de un pedido.

Otro puede consultar pedidos, modificar información, gestionar incidencias, crear carritos o coordinar devoluciones.

Otro puede trabajar sobre CRM, ERP, correo electrónico, calendario y otras aplicaciones, seleccionando la herramienta necesaria según la situación.

Una función → Un proceso → Varios procesos → Varios sistemas

A medida que aumenta la generalidad, aumenta también la superficie sobre la que el sistema puede actuar.

Y eso tiene consecuencias directas sobre permisos, seguridad, supervisión y trazabilidad.

Perfil agéntico

Cuatro dimensiones para saber qué estamos introduciendo realmente en la empresa

DimensiónPreguntaQué nos ayuda a entender
Autonomía¿Cuánto puede hacer sin autorización?El grado de intervención humana necesario.
Eficacia¿Qué capacidad real tiene para lograr el objetivo?Su capacidad efectiva de producir resultados.
Complejidad¿Cuántas decisiones debe tomar para conseguirlo?Cuánta planificación estamos delegando.
Generalidad¿En cuántos contextos puede intervenir?La amplitud de su superficie de actuación.

Dos sistemas pueden llamarse “agentes de IA” y, sin embargo, necesitar arquitecturas completamente distintas.

Del perfil al riesgo

La capacidad del agente no es suficiente. También importa sobre qué puede actuar.

Para trasladar este marco al entorno empresarial necesitamos añadir una segunda pregunta:

¿Qué ocurre si el agente se equivoca?

No supone el mismo impacto:

  • Clasificar incorrectamente un documento interno.
  • Enviar un mensaje incorrecto a un cliente.
  • Modificar un pedido.
  • Aplicar un descuento.
  • Cancelar una reserva.
  • Acceder a datos personales.
  • Modificar información financiera.
Capacidad agéntica × Impacto empresarial = Nivel de gobernanza necesario

Cuanta mayor capacidad tenga el agente y mayores sean las consecuencias potenciales de sus acciones, mayor deberá ser el nivel de control.

Gobernanza

Más autonomía no debería significar simplemente más aprobaciones humanas

La primera reacción ante un sistema con mayor autonomía suele ser introducir autorizaciones.

Pero si una persona debe aprobar permanentemente cada acción, el agente puede ser autónomo técnicamente mientras el proceso continúa dependiendo completamente de una persona.

La gobernanza debe estar incorporada en la propia arquitectura.

Permisos Qué puede hacer.
Prohibiciones Qué no puede hacer aunque técnicamente sea capaz.
Límites Hasta dónde puede actuar de forma autónoma.
Escalado Cuándo debe detenerse y recurrir a una persona.
Trazabilidad Qué decisiones y acciones deben quedar registradas.
Reversibilidad Cómo corregimos o deshacemos una acción.
Supervisar no significa necesariamente aprobar cada acción.
Antes de implementar

Qué deberíamos definir para cada agente de IA

Objetivo ¿Qué resultado esperamos del agente?
Autonomía ¿Qué puede decidir por sí mismo?
Herramientas ¿A qué sistemas y aplicaciones puede acceder?
Datos ¿Qué información puede consultar?
Acciones ¿Qué operaciones puede ejecutar?
Prohibiciones ¿Qué acciones nunca debería poder realizar?
Autorizaciones ¿Qué necesita aprobación humana?
Escalado ¿Cuándo debe detenerse?
Registro ¿Podemos reconstruir posteriormente qué hizo?
Reversibilidad ¿Podemos deshacer sus acciones?

Si estas preguntas no tienen respuesta, probablemente todavía no hemos terminado de diseñar el agente.

Diseño organizativo

La autonomía de la IA no debería ser una consecuencia de la herramienta

Durante la primera etapa de adopción de inteligencia artificial nos hemos concentrado principalmente en preguntar:

¿Qué puede hacer la IA?

Pero cuando incorporamos agentes dentro de procesos empresariales aparece una pregunta diferente:

¿Qué capacidad de decisión queremos delegar?

Eso ya no es únicamente una decisión tecnológica.

Afecta a responsabilidades, procesos, autoridad, supervisión, riesgo y organización.

La autonomía de un agente debería ser una decisión explícita de arquitectura y diseño organizativo, no una consecuencia accidental de las funcionalidades disponibles en una plataforma.
La pregunta no es cuántos agentes tiene tu empresa

El objetivo tampoco debería ser alcanzar la máxima autonomía posible

En los próximos años veremos empresas incorporando cada vez más agentes de inteligencia artificial.

Pero tener más agentes o agentes más autónomos no significa necesariamente tener una organización más avanzada.

Una organización madura debería saber distinguir:

  • Qué puede automatizar.
  • Qué puede delegar.
  • Qué necesita supervisión humana.
  • Qué requiere autorización explícita.
  • Qué nunca debería delegarse.

El objetivo es encontrar el nivel adecuado de autonomía para cada proceso.

Porque no todos los agentes son iguales.

Y precisamente por eso no deberían tener los mismos permisos, los mismos límites ni el mismo nivel de gobernanza.

¿Sabes qué nivel de autonomía tienen realmente los agentes de IA de tu empresa?

Antes de desplegar agentes autónomos conviene analizar procesos, objetivos, sistemas, permisos, riesgos y responsabilidades. Una buena arquitectura de IA debe definir tanto lo que un agente puede hacer como aquello que nunca debería poder hacer.

Analicemos tu arquitectura de IA
Referencia: Kasirzadeh, A. & Gabriel, I. Agentic profiles for effective AI governance. Nature, 2026.
Desplazarse arriba
📞 Te llamamos nosotros