AI 예측은 왜 맞을 때보다 틀릴 때 더 기억에 남을까?

학적 근거는 정책의 출발점이 되지만, 결정에는 가치 판단과 현실 제약이 함께 개입된다.

AI가 어떤 결과를 정확히 예측했을 때보다, 예측이 빗나갔을 때 사람들이 더 강하게 반응하는 장면은 익숙하다. “역시 AI도 별거 없네”라는 말은 대개 이럴 때 나온다. 반대로 AI 예측이 조용히 맞아떨어진 경우에는 큰 반응이 없다. 이 차이는 기술의 성능 차이에서 비롯된 것처럼 보이지만, 실제로는 우리가 기억을 선택적으로 남기는 방식과 더 깊이 연결돼 있다.

 

이 인식은 기대의 구조에서 시작된다. 사람들은 AI를 사용할 때 무의식적으로 ‘정확함’을 전제로 둔다. 기계이기 때문에 실수하지 않을 것이라는 기대가 먼저 생긴다. 그래서 예측이 맞았을 때는 “당연한 결과”로 받아들이고, 예측이 틀렸을 때는 “기대에 어긋난 사건”으로 인식한다. 기대를 벗어난 사건은 감정적으로 더 강하게 각인되기 때문에, 기억 속에 오래 남는다. 이 과정에서 실제 성능과 체감 성능 사이에 괴리가 생긴다.

 

과학적으로 보면 예측 시스템의 평가는 개별 사례가 아니라 전체 분포로 이루어진다. 일정 수준의 오차는 예측 모델의 정상적인 일부다. 하지만 사람의 기억은 통계적으로 작동하지 않는다. 인상적인 실패 사례 하나가, 수많은 조용한 성공 사례를 덮어버리기 쉽다. 여기에 미디어 보도나 SNS 확산이 더해지면, 드문 오류가 대표 사례처럼 소비된다. 이때 AI는 “자주 틀리는 기술”이라는 이미지를 얻게 된다.

 

결국 AI 예측이 틀렸을 때 더 기억에 남는 이유는, 기술의 한계라기보다 인간의 인식 구조에 가깝다. 우리는 맞은 예측에는 익숙해지고, 틀린 예측에는 의미를 부여한다. 이 차이를 이해하지 못하면 AI는 실제보다 더 불완전해 보이거나, 반대로 비현실적인 기대의 대상이 된다. AI 예측을 제대로 바라본다는 것은 개별 사례의 인상보다, 전체 성능의 맥락을 함께 보는 데서 시작된다.