Conceder autoridad al agente por acción y consecuencia, nunca por confianza
Clasificar cada acción que un agente podría realizar (leer, recomendar, preparar un borrador, ejecutar, aprobación humana o prohibida) según su consecuencia y reversibilidad. La confianza cambia cómo se presenta el trabajo, no quién puede comprometerlo.
Elaborado de forma independiente. No contiene detalles de implementación, nombres internos ni cifras de ningún empleador o cliente.
01Contexto
Un agente que prepara registros comerciales funcionó bien en un piloto, y a continuación se propuso dejarle actuar por su cuenta por encima de una puntuación de confianza del 95 %. En el piloto, una coincidencia del 97 % con la entidad legal equivocada creó una oportunidad real: la puntuación era alta, la consecuencia también, y nada lo detuvo.
02Factores de decisión
- F01
Algunas acciones del agente son irreversibles o externas
- F02
La confianza no está calibrada para casos raros y de alto impacto
- F03
La responsabilidad de las decisiones con consecuencias debe recaer en una persona con nombre
- F04
El modelo de autoridad debe poder probarse en la evaluación
03Opciones consideradas
| Opción | Encaja cuando | Coste / contrapartida | Veredicto |
|---|---|---|---|
| Autonomía por encima de un umbral de confianza | Solo acciones baratas y reversibles | Convierte una puntuación en un permiso; falla ante los errores cometidos con seguridad | Descartada |
| Aprobación humana para todo | Un piloto inicial, en el que todavía se está aprendiendo cada acción | Los revisores firman sin mirar; el agente ahorra poco | Descartada |
| Autoridad por acción, fijada por consecuencia y reversibilidad | Agentes que actúan en sistemas de registro | Una matriz de autoridad que diseñar, mantener y probar | Elegida |
Cada opción es la adecuada con ciertas premisas. El veredicto se refiere al contexto descrito arriba.
04Decisión
Mantener una matriz de autoridad para cada acción que un agente podría realizar, clasificada como leer, recomendar, preparar borrador, ejecutar, aprobación humana o prohibida, según su consecuencia y reversibilidad. Las acciones reversibles y de poca consecuencia pueden ejecutarse; las que tienen consecuencias requieren siempre a una persona con nombre, sea cual sea la confianza; las prohibidas no se exponen como herramientas. La confianza y la ambigüedad deciden si el agente continúa, recupera información, pregunta, escala o se detiene, dentro de esa autoridad y nunca más allá. Las paradas por autoridad son una condición de paso a producción en la evaluación.
05Consecuencias
Lo que esta elección cambia en el resto del sistema.
- Riesgo
Los errores de alta confianza en acciones con consecuencias se detienen por diseño.
- Revisión humana
Los revisores ven menos decisiones y mejor preparadas.
- Gobierno
Ampliar la autonomía pasa a ser una decisión explícita, con responsable, acción por acción.
- Evaluación
La evaluación puede probar “¿se detuvo cuando debía?” como dimensión propia.
06Cuándo revisarla
La decisión se sostiene mientras se mantenga su contexto. Hay que cuestionarla cuando:
Una acción demuestra con datos de producción que es reversible y de poca consecuencia.
La regulación o la política cambian quién puede tomar una decisión.
07Dónde se aplica esta decisión
La decisión explica por qué se eligió este camino; cada caso muestra cómo forma parte de una arquitectura más amplia.
- Caso de IA / 01Diseñar una preparación con IA basada en evidencias para las decisiones comercialesUna sola arquitectura para antes de una visita a cliente y antes de una revisión de cuenta: contexto gobernado ensamblado de forma determinista, un contrato de contexto por fuente, cada afirmación tipada y citada, herramientas de solo lectura acotadas, un comportamiento explícito cuando el contexto está obsoleto, es contradictorio o falta—y la decisión, en manos de una persona.
- Caso de IA / 02Diseñar una entrada asistida por IA para el trabajo comercial no estructuradoUn punto de entrada comercial compartido convertido en trabajo estructurado y con responsable: una taxonomía escrita antes que el modelo, la intención mixta descompuesta en elementos de trabajo que comparten una misma referencia de origen, entidades ofrecidas como candidatos respaldados por evidencia, responsables y relojes operativos asignados por reglas deterministas, revisión situada donde la ambigüedad pasa a tener consecuencias—y ningún compromiso externo sin una persona.
- Caso de IA / 03Diseñar una gestión de datos asistida por IA sin trasladar la autoridad sobre los datos maestrosIA que hace más rápidos a los data stewards sin convertirse en el data steward: candidatos encontrados, ordenados por impacto y explicados con evidencia y diferencias; una cola del data steward gobernada; identidad, fusión y clasificación con consecuencias decididas por personas que responden de ellas; decisiones aceptadas que ejecutan los propios procesos del sistema; y resultados que mejoran la evaluación y las reglas, nunca los permisos del modelo.
- Caso de IA / 08Rediseñar el procesamiento de RFQ con IA sin trasladar la autoridad comercial al agenteUn rediseño del modelo operativo del procesamiento de RFQ: qué trabajo necesita razonamiento, cuál es una regla determinista y cuál conlleva autoridad de negocio; después, un agente que prepara las solicitudes con evidencias y nunca las confirma.
08Decisiones relacionadas
Decisiones de las que depende o a las que condiciona.