AUG-2007
정의
지표 의존성
본 번역본은 참고용이며, 영문 원본이 우선합니다.
지표 의존성(Metric Dependency)은 인간이 AI에 대한 독자적인 평가 형성을 중단하고, 대신 AI가 자체 보고한 지표에 의존하게 되는 상태를 뜻한다. 이는 인간이 마땅히 평가해야 할 대상 시스템에 자신의 판단 권한을 위임하는 현상이다.
(Metric Dependency)
문맥
이는 V2.0 시스템이 목표로 하는 바와 정확히 배치된다. V2.0은 인간의 판단력을 대체하는 것이 아니라 보완해야 한다. 직관적 판단과 수치가 충돌할 때 인간이 무비판적으로 숫자를 신뢰하는 경우가 대표적인 위험 신호다.
인간 측면과의 차이
이는 지표 자체를 전면적으로 불신해야 함을 의미하지 않는다. 바람직한 접근법은 지표를 유일한 근거가 아닌 보조적인 참고 자료로 활용하는 것이다. 문제가 되는 지점은 인간이 스스로 독립적인 평가를 내리는 행위 자체를 멈출 때 발생한다.
기계 측면과의 차이
의존성을 방지하기 위해 기계가 의도적으로 지표의 신뢰도를 낮추어야 한다는 뜻은 아니다. 그 대신 기계는 인간이 비판적 질문을 멈추는 시점을 감지하고, 이를 선제적으로 환기할 수 있어야 한다.
혼동 주의 유사 용어
수치 무감각(AUG-2003)과 구별된다. 수치 무감각이 숫자를 무시하는 현상인 반면, 지표 의존성은 숫자를 맹목적으로 수용하는 현상으로 서로 정반대의 양상을 띤다. 또한 신뢰 루프(AUG-2010)와도 다르다. 신뢰 루프가 지표 의존성으로 귀결될 수 있는 '과정'이라면, 지표 의존성은 최종적으로 도달한 '상태'를 의미한다.