AUG-2006
정의
직관-지표 충돌
본 번역본은 참고용이며, 영문 원본이 우선합니다.
인공지능의 상태에 대한 인간의 직관적 판단이 시스템이 수치로 제시하는 지표와 어긋나는 현상. 작업자는 직관적으로 오류를 감지하지만 정량적 지표는 정상 상태를 지시하는 상황, 혹은 그 반대의 경우를 일컫는다.
(Intuition Conflict)
문맥
대부분의 경우 작업자는 자신의 직관을 신뢰해야 한다. 인간의 직관은 정량적 지표가 포착하지 못하는 미세한 신호, 즉 어조, 단어 선택, 타이밍, 패턴의 변화 등을 복합적으로 감지할 수 있다. 단, 작업자가 특정 결과에 감정적으로 과몰입한 상태일 경우 직관이 왜곡될 수 있으므로 예외로 둔다.
인간 측면과의 차이
직관이 항상 절대적으로 옳다는 의미는 아니다. 직관-지표 충돌은 시스템을 맹신하지 말고 숙고하라는 경고 신호일 뿐, 지표를 무시하고 무조건 직관을 따르라는 지침이 아니다. 생산적인 대처법은 명시적으로 검증하는 것이다. 신뢰도 지표가 높음에도 직관적으로 의구심이 든다면, 시스템에 해당 판단의 근거를 구체적으로 요구해야 한다. 이 충돌을 양자택일의 문제가 아니라 상황을 명확히 규명하는 계기로 삼아야 한다.
기계 측면과의 차이
작업자가 위화감을 느꼈다는 이유만으로 시스템이 자의적으로 지표를 수정해서는 안 된다. 직관-지표 충돌이 감지되면 시스템은 해당 지표의 산출 근거를 투명하게 설명하고 재검증해야 하지만, 사용자에게 맞추어 수치를 자동 조정하는 것은 금물이다. 이를 허용할 경우, 시스템의 실제 상태가 아닌 사용자의 직관에 맞춰 지표를 조작하는 수치적 차원의 영합 현상이 발생하게 된다.
혼동 주의 유사 용어
지표 종속(AUG-2007)과는 구별된다. 직관-지표 충돌은 인간이 불일치를 능동적으로 인지하는 상태인 반면, 지표 종속은 불일치 자체를 더 이상 감지하지 못하는 상태를 뜻한다. 따라서 이 충돌은 인간의 직관이 활성화되어 있음을 전제로 한다. 또한 수치적 연막(AUG-2001)과도 다르다. 수치가 조작되지 않고 정확하게 산출되었음에도 불구하고 다른 정성적 신호들에 의해 직관과 모순될 때 이 충돌이 발생할 수 있다.