¿Cómo se gobierna un agente de IA dentro de una entidad supervisada?

¿Por qué un agente necesita gobierno y un sistema tradicional no tanto?

Un sistema tradicional hace exactamente lo que se programó. Un agente de IA interpreta: lee un mensaje, entiende la intención, decide qué herramienta usar y redacta una respuesta. Esa flexibilidad es lo que lo vuelve útil para atender, cobrar u originar, y también lo que obliga a ponerle límites claros. En una entidad supervisada, además, cada interacción con un cliente puede terminar en una queja, una revisión de la autoridad o una auditoría interna. El gobierno no es un extra: es la condición para poder encender al agente.

¿Qué piezas mínimas debe tener el gobierno de un agente?

Cinco, y ninguna es opcional:

• Un responsable con nombre. Cada agente tiene un dueño interno: alguien de cobranza, de originación o de atención que define qué hace, qué no hace y cuándo se detiene. No es el proveedor.
• Reglas escritas que el agente no puede saltarse. Horarios de contacto, temas prohibidos, montos que no puede ofrecer, cuándo debe pasar el caso a una persona. Las reglas viven en el sistema, no en una instrucción que el agente «recuerda»: si una regla no está implementada, no protege.
• Bitácora completa. Cada mensaje, cada consulta a un sistema, cada acción y cada escalamiento queda registrado con fecha, hora, cliente y motivo. Sin bitácora no hay forma de responder una queja ni de reconstruir qué pasó.
• Freno e intervención humana. Una persona puede tomar cualquier conversación, devolverla al agente o detenerlo por completo. El freno tiene que funcionar a cualquier hora y sin pedirle permiso a nadie.
• Revisión periódica. Muestras de conversaciones revisadas por una persona, indicadores de calidad y una reunión fija para ajustar reglas. Un agente que nadie revisa se desvía sin que nadie lo note.

¿Dónde se ve todo eso en la práctica?

En InnovaBlack lo resolvemos con dos sistemas. Synthetic OS, el sistema operativo de cada agente, guarda sus reglas, su memoria y su vigilancia, y es el que aplica el freno. La Oficina Agéntica es la pantalla donde tu equipo ve en vivo qué está haciendo cada agente, toma una conversación, la devuelve y lo detiene. La bitácora no es un reporte que se arma después: se escribe en el momento en que el agente actúa.

Ningún agente se hace pasar por persona. Si un cliente pregunta con quién habla, el agente dice que es un asistente con IA, y siempre hay una persona disponible para tomar el caso.

¿Qué decisiones deben quedarse en una persona?

La regla práctica: el agente puede preparar, proponer y ejecutar lo que ya está autorizado; una persona autoriza lo que compromete a la entidad o cambia la situación del cliente. Algunos ejemplos que suelen quedar en manos humanas:

• Autorizar un crédito, una reestructura o una quita fuera de política.
• Determinar si una operación es inusual y debe reportarse; el agente puede alertar, pero el análisis y la decisión corresponden al área de cumplimiento (ver KYC y PLD con agentes).
• Responder una reclamación formal o un requerimiento de autoridad.
• Cualquier caso en que el cliente pida hablar con una persona.

Dónde se traza cada línea lo decide tu entidad según sus políticas; nuestro trabajo es que el sistema la respete siempre, no sólo cuando todo sale bien.

¿Qué le vas a poder mostrar a un auditor o a la autoridad?

Si el gobierno está bien armado, ante cualquier revisión puedes mostrar:

• Qué hace cada agente, quién es su responsable y qué reglas lo limitan, en un documento vigente.
• La bitácora completa de una conversación o de un cliente, con cada acción del agente y cada intervención humana.
• Cuándo se detuvo un agente, quién lo detuvo y por qué.
• Los cambios de reglas, con fecha y con quién los aprobó.

Las reglas que ya obligan a tu entidad —cobranza, atención a usuarios, prevención de lavado de dinero, protección de datos— siguen aplicando cuando el trabajo lo hace un agente. Por eso diseñamos cada agente para que cumpla esas reglas desde el primer día, y para que la evidencia exista antes de que alguien la pida.

¿Cómo se evita que el agente invente o prometa algo?

Con tres capas. Primero, el agente sólo responde con información que viene de tus sistemas o de documentos aprobados; si no tiene el dato, lo dice y escala. Segundo, las acciones sensibles (registrar un pago, cambiar un domicilio, ofrecer un convenio) pasan por herramientas con validaciones propias, no por texto libre. Tercero, la vigilancia de Synthetic OS revisa la actividad del agente y avisa cuando algo se sale de lo normal. Ninguna capa es perfecta por sí sola; juntas hacen que un error se detecte pronto y se corrija con evidencia.

Respuestas cortas

¿Quién responde si un agente se equivoca?

La entidad financiera, igual que si el error lo cometiera un empleado o un proveedor. Por eso cada agente debe tener un responsable interno con nombre, y las decisiones que comprometen a la entidad deben pasar por una persona.

¿Se puede detener un agente en cualquier momento?

Debe poderse. Un agente bien gobernado tiene un freno que una persona autorizada acciona desde la Oficina Agéntica, y que corta su actividad sin depender del proveedor.

¿El agente puede aprobar un crédito solo?

Puede preparar el análisis y proponer una decisión dentro de reglas que fija la entidad. Quién autoriza, con qué montos y con qué excepciones lo decide tu política de crédito, y lo prudente es que la autorización final quede en una persona.