De responder a actuar
Un asistente convencional propone una respuesta. Un agente puede encadenar pasos, utilizar herramientas y modificar el estado de un proceso. La diferencia parece pequeña en una demostración, pero es decisiva cuando intervienen clientes, expedientes, pagos o información interna.
Cuanta más autonomía tiene un sistema, más importante resulta limitar su campo de acción. El objetivo no es impedir que trabaje, sino conseguir que pueda hacerlo sin convertir un error puntual en una incidencia operativa.
1. Una identidad propia
El agente debería operar con una identidad diferenciada, nunca utilizando de forma invisible la cuenta de una persona. Así se puede saber qué acciones realizó, revocar su acceso y separar sus permisos de los del equipo.
2. El mínimo permiso necesario
- Acceso solo a los datos imprescindibles para su función.
- Herramientas limitadas al proceso que debe ejecutar.
- Permisos de lectura como punto de partida.
- Acciones irreversibles deshabilitadas o sujetas a aprobación.
- Credenciales separadas y fáciles de revocar.
3. Aprobación humana donde importa
No todos los pasos requieren una persona, pero sí aquellos con impacto económico, contractual, reputacional o sobre derechos. Una buena automatización distingue entre preparar una acción y autorizarla.
La aprobación debe mostrar el contexto necesario: qué propone el agente, con qué información ha trabajado y qué ocurrirá al confirmar.
4. Registro y trazabilidad
Si una acción no queda registrada, será difícil entender un fallo o mejorar el sistema. Conviene conservar la instrucción recibida, las herramientas utilizadas, las decisiones intermedias y el resultado, aplicando los límites de privacidad y conservación adecuados.
5. Evaluaciones antes y después del lanzamiento
- Casos normales que el agente debe resolver correctamente.
- Entradas ambiguas o incompletas.
- Intentos de acceso fuera de su función.
- Errores de las herramientas conectadas.
- Situaciones en las que debe detenerse o escalar.
- Cambios en políticas, datos y procesos reales.
6. Un mecanismo claro de parada
Toda implantación necesita una forma rápida de suspender ejecuciones, retirar permisos y volver a un procedimiento manual. También debe existir una persona responsable de revisar incidencias y aprobar cambios.
La autonomía se amplía con evidencia: primero observación, después acciones reversibles y, solo cuando las evaluaciones lo justifican, tareas de mayor impacto.
Un agente fiable no es el que nunca falla, sino el que falla dentro de límites conocidos y permite recuperar el control.