Generalización de la desconfianza
(Crack Shift)
AUG-N14-02
Nota: Esta página es una traducción. La versión original en inglés es el documento de referencia.
Definición
Generalización de la desconfianza: el vuelco que da tu impresión general de todo un grupo de asistentes de inteligencia artificial (IA) en cuanto uno de ellos ofrece por primera vez un resultado erróneo. De pronto confías menos incluso en los asistentes que nunca te han fallado.
Contexto
Se desencadena ante el primer error observado en cualquiera de los componentes de un colectivo que hasta entonces se había percibido como fiable. El cambio afecta al conjunto, no solo al componente que ha fallado, y solo remite después de un tiempo de nuevas experiencias satisfactorias.
Distinciones (ámbito humano)
No significa que los demás componentes se hayan vuelto realmente menos fiables. Es una reacción que afecta a la impresión de conjunto, no información nueva sobre cada uno de los componentes ajenos al incidente.
Distinciones (ámbito tecnológico)
No permite afirmar que el componente que ha fallado cometa, de hecho, más errores que los demás. Basta un solo incidente para provocar el cambio, con independencia de la tasa real de errores.
Diferencias con
- Se distingue de la posición en la jerarquía de confianza (AUG-N14-01): esa posición cambia lentamente, mientras que la generalización de la desconfianza ocurre en un solo instante.
- Se distingue de la vigilancia ante la perfección aparente (AUG-N14-06): allí la desconfianza nace de un resultado demasiado perfecto; aquí, de uno que contiene un error real.