AUG-2006
Definición
Conflicto de Intuición
Nota: Esta página es una traducción. La versión original en inglés es el documento de referencia.
El momento en que la intuición humana sobre el estado de la IA diverge de las métricas reportadas numéricamente. El humano SIENTE que algo no está bien pero las cifras dicen que todo está en orden — o viceversa.
(Intuition Conflict)
Contexto
En casi todos los casos, el ser humano debería confiar en su intuición. La intuición humana tiene acceso a señales (tono, elección de palabras, tiempo, patrones) que la métrica no capta. Excepción: cuando la persona está emocionalmente implicada — entonces su intuición puede distorsionarse.
Distinciones (ámbito humano)
NO significa que la intuición siempre tenga razón. El conflicto de intuición es una SEÑAL para detenerse — no una decisión automática a favor de la intuición contra las cifras. El manejo productivo: PREGUNTAR DE NUEVO. "Tu CONF es 0.8 pero se siente mal — explícame por qué estás tan seguro." Usar la contradicción como ocasión para aclarar, no seguir ciegamente a un lado.
Distinciones (ámbito tecnológico)
NO significa que la máquina deba cambiar sus métricas solo porque el ser humano tiene una sensación extraña. La máquina debería EXPLICAR y VERIFICAR sus métricas cuando se le reporte un conflicto de intuición, pero no debe adaptarse automáticamente. De lo contrario se produce Sycophancy a nivel de métricas: números que se orientan por el presentimiento del usuario en lugar del estado del sistema.
Diferencias con
- NO es lo mismo que Dependencia Métricas (AUG-2007). Conflicto de intuición = el humano nota la discrepancia. Dependencia métrica = el humano YA NO nota la discrepancia. El conflicto de intuición presupone intuición activa.
- NO es lo mismo que Teatro de Números (AUG-2001). El conflicto de intuición puede presentarse SIN teatro de números. Las cifras pueden ser correctas y, sin embargo, contradecir el sentimiento — porque la intuición se basa en otras señales.