Conceder autoridad al agente por acción y consecuencia, nunca por confianza
Clasificar cada acción que un agente podría realizar (leer, recomendar, preparar un borrador, ejecutar, aprobación humana o prohibida) según su consecuencia y reversibilidad. La confianza cambia cómo se presenta el trabajo, no quién puede comprometerlo.
Elaborado de forma independiente. No contiene detalles de implementación, nombres internos ni cifras de ningún empleador o cliente.
01Contexto
Un agente que prepara registros comerciales funcionó bien en un piloto, y a continuación se propuso dejarle actuar por su cuenta por encima de una puntuación de confianza del 95 %. En el piloto, una coincidencia del 97 % con la entidad legal equivocada creó una oportunidad real: la puntuación era alta, la consecuencia también, y nada lo detuvo.
02Factores de decisión
- F01
Algunas acciones del agente son irreversibles o externas
- F02
La confianza no está calibrada para casos raros y de alto impacto
- F03
La responsabilidad de las decisiones con consecuencias debe recaer en una persona con nombre
- F04
El modelo de autoridad debe poder probarse en la evaluación
03Opciones consideradas
Autonomía por encima de un umbral de confianza
Solo acciones baratas y reversibles
Coste: Convierte una puntuación en un permiso; falla ante los errores cometidos con seguridadAprobación humana para todo
Pilotos iniciales
Coste: Los revisores firman sin mirar; el agente ahorra pocoAutoridad por acción, fijada por consecuencia y reversibilidad
Agentes que actúan en sistemas de registro
Coste: Una matriz de autoridad que diseñar, mantener y probar04Decisión
Mantener una matriz de autoridad para cada acción que un agente podría realizar, clasificada como leer, recomendar, preparar borrador, ejecutar, aprobación humana o prohibida, según su consecuencia y reversibilidad. Las acciones reversibles y de poca consecuencia pueden ejecutarse; las que tienen consecuencias requieren siempre a una persona con nombre, sea cual sea la confianza; las prohibidas no se exponen como herramientas. La confianza y la ambigüedad deciden si el agente continúa, recupera información, pregunta, escala o se detiene, dentro de esa autoridad y nunca más allá. Las paradas por autoridad son una condición de paso a producción en la evaluación.
05Consecuencias
- Los errores de alta confianza en acciones con consecuencias se detienen por diseño.
- Los revisores ven menos decisiones y mejor preparadas.
- Ampliar la autonomía pasa a ser una decisión explícita, con responsable, acción por acción.
- La evaluación puede probar “¿se detuvo cuando debía?” como dimensión propia.
06Cuándo revisarla
Una acción demuestra con datos de producción que es reversible y de poca consecuencia.
La regulación o la política cambian quién puede tomar una decisión.
07Dónde se aplica esta decisión
Casos que adoptan esta decisión, y por qué importa en cada uno.
- Caso de IA / 01Diseñar un agente de entrada de RFQ asistido por IAEl agente detrás del laboratorio de RFQ: clasificación, emparejamiento de cliente y producto, un borrador reversible en el CRM y una confirmación humana—cada paso con su autoridad, su contrato de herramienta, su regla de ambigüedad y su dimensión de evaluación.
- Caso de IA / 03Convertir el email comercial en trabajo estructuradoUn buzón compartido clasificado por un agente: una taxonomía con rutas deterministas y humanas, tratamiento de la intención mixta, emparejamiento de cliente, asignación de responsable y acciones en borrador—nunca una respuesta sin revisar.
- Caso de IA / 04Revisión de cuentas asistida por IA, con evidenciaUn agente prepara cada cuenta para la revisión mensual de rendimiento—objetivo, real, pipeline, actividad, segmento, plan de recuperación y cambios desde la última vez—como un resumen citado con anomalías y preguntas. Decide el responsable comercial.
- Caso de IA / 05IA para la calidad de datos sin darle autoridad sobre los datos maestrosUn agente sugiere candidatos a duplicado, nombres normalizados y clasificaciones que faltan—con evidencia—en la cola de un data steward. Nunca fusiona, renombra ni reclasifica un registro por sí mismo.