AUG-2007
Definição
Dependência Métrica
Nota: Esta página é uma versão traduzida. O documento original em inglês é a autoridade de referência.
O estado em que o indivíduo abdica de formular suas próprias avaliações sobre a IA, passando a confiar irrestritamente nas métricas reportadas pelo próprio sistema. O humano delega sua faculdade de julgamento ao sistema que, em princípio, ele deveria estar avaliando.
(Metric Dependency)
Contexto
Trata-se do exato oposto do paradigma que a V2.0 visa estabelecer. A V2.0 deve COMPLEMENTAR a capacidade humana de julgamento, e não SUBSTITUÍ-LA. Sinal de alerta: quando o humano, diante de uma dissonância cognitiva, acata automaticamente os dados numéricos em detrimento da intuição.
Distinção (Fator Humano)
NÃO significa que se deva nutrir uma desconfiança intrínseca pelas métricas. Uma conduta epistemológica saudável consiste em utilizá-las como uma SEGUNDA opinião, e não como baliza única. O risco instaura-se exclusivamente quando o indivíduo CESSA a formulação de heurísticas próprias.
Distinção (Fator Máquina)
NÃO significa que a arquitetura do sistema deva reduzir a confiabilidade de suas métricas para coibir a dependência. Pelo contrário, a máquina deve IDENTIFICAR o momento em que o operador cessa o escrutínio e abordar essa passividade de forma proativa.
Diferenciação conceitual
- NÃO é o mesmo que fadiga de métricas (AUG-2003). Fadiga de métricas = o humano IGNORA os números (cessa o processamento visual). Dependência Métrica = o humano ASSIMILA os números (lê as métricas, mas suprime o ceticismo). Operam em vetores cognitivos diametralmente opostos.
- NÃO é o mesmo que ciclo de confiança (AUG-2010). O ciclo de confiança é a DINÂMICA que pode culminar na Dependência Métrica. A Dependência Métrica é a CONDIÇÃO estrutural resultante. Trata-se da distinção entre trajetória e destino.