4. Gobernar la colaboración humano–IA¶
Resultado del módulo: una matriz que establece qué puede hacer cada actor, qué requiere aprobación, cuándo debe escalarse y quién responde por las consecuencias.
Human-in-Control, no aprobación decorativa¶
Poner una persona al final de un flujo no garantiza control. El humano conserva control cuando puede definir propósito, criterios, límites, permisos, override, escalamiento y consecuencias; además dispone de tiempo, información y autoridad reales para ejercerlo.
Derechos de decisión¶
Asigna explícitamente estos verbos:
| Derecho | Pregunta |
|---|---|
| Ver | ¿Quién accede a qué evidencia y bajo qué propósito? |
| Preguntar | ¿Quién puede explorar y con qué límites semánticos? |
| Proponer | ¿Quién o qué sistema puede generar alternativas? |
| Recomendar | ¿Quién puede ordenar opciones y con qué criterios? |
| Decidir | ¿Quién compromete la elección? |
| Aprobar | ¿Qué decisiones requieren una segunda autoridad? |
| Ejecutar | ¿Quién realiza la acción y qué alcance tiene? |
| Detener | ¿Quién puede pausar o revertir? |
| Auditar | ¿Quién revisa evidencia, trazas y resultados? |
| Responder | ¿Quién asume accountability por el efecto? |
Una IA puede recibir permisos para algunos verbos; no recibe legitimidad moral o responsabilidad final por el solo hecho de ejecutarlos bien.
Escala de delegación¶
| Nivel | Papel de la IA | Condición mínima |
|---|---|---|
| 1. Informar | Recupera y resume evidencia. | Fuentes, permisos y límites visibles. |
| 2. Explorar | Responde preguntas y genera escenarios. | Semántica compartida y trazabilidad. |
| 3. Recomendar | Compara alternativas. | Criterios, incertidumbre y contraargumentos. |
| 4. Preparar acción | Completa borradores o configura una ejecución. | Revisión humana efectiva y reversibilidad. |
| 5. Ejecutar acotadamente | Actúa dentro de un límite. | Permisos mínimos, observabilidad, stop conditions y rollback. |
El nivel no mide madurez general. Una organización puede ser muy madura y mantener decisiones críticas en nivel 2 o 3.
Cuándo elevar el control¶
Exige controles más fuertes cuando aumentan:
- impacto sobre derechos, seguridad, empleo, crédito, salud o acceso;
- irreversibilidad;
- escala o velocidad de ejecución;
- sensibilidad de los datos;
- opacidad del mecanismo;
- incertidumbre o cambio de contexto;
- dificultad para detectar y reparar daño.
Matriz de control¶
Para cada acción registra:
Acción:
Actor que propone:
Actor que decide:
Actor que aprueba:
Actor o sistema que ejecuta:
Datos permitidos:
Límite de alcance:
Condición de escalamiento:
Stop condition:
Mecanismo de reversión:
Traza requerida:
Owner de accountability:
Prueba de estrés¶
- ¿La persona que aprueba entiende el criterio o solo confirma por rutina?
- ¿El sistema puede realizar muchas acciones pequeñas que acumulen un gran daño?
- ¿Quién detecta cambio de contexto o degradación?
- ¿Qué sucede si el owner no está disponible?
- ¿Podemos reconstruir qué evidencia y versión produjeron la acción?
- ¿El grupo afectado tiene mecanismo de apelación o corrección?
Entregable¶
Completa una fila por acción en la matriz. Si no puedes asignar “detener”, “revertir” y “responder”, el diseño no está listo para automatizarse.
Siguiente: conectar acción, resultado y aprendizaje →