AI를 믿는가보다 중요한 것은 언제 믿고 언제 거부하는가이다

AI 신뢰를 단일 점수로 보면 과신과 과소의존이라는 서로 다른 실패를 구분할 수 없다.

연구의 제안

Schemmer와 동료들은 AI 조언이 맞을 때 받아들이고 틀릴 때 거부하는 능력을 두 차원으로 측정해야 한다고 제안했다. 단순한 수용률이나 정확도만으로는 적절한 의존을 설명할 수 없다는 것이다.

AXM과의 연결

이는 신뢰와 투명성을 ‘AI를 더 믿게 만드는 능력’이 아니라 ‘맞게 의존하도록 돕는 능력’으로 정의해야 함을 지지한다. 설명, 검증, 이의 제기, 사람 전환이 중요한 이유다.