이끌림

자동화 기술이 발전할수록 생활은 편리해지고 효율은 높아진다. 그런데 이상하게도 사람들의 불안은 줄어들지 않는다. 오히려 “일자리가 사라질 것 같다”, “사람의 역할이 없어지는 것 아니냐”는 걱정이 더 자주 등장한다. 기술이 문제를 해결해 주는 동시에 불안을 키운다는 이 상황은 직관적으로 이해하기 어렵다. 하지만 이 감정은 기술의 성능보다는, 사람이 느끼는 통제감의 변화와 더 깊이 연결돼 있다. 이 불안은 자동화를 단순히 ‘일을 대신해 주는 도구’로만 보지 않을 때 생긴다. 자동화가 늘어나면 사람의 개입은 줄어들고, 결정 과정은 점점 보이지 않게 된다. 예전에는 사람이 직접 판단하던 영역이 시스템 내부로 들어가면서, 왜 그런 결과가 나왔는지 설명하기 어려워진다. 이때 사람은 결과보다 과정에서 소외된 느낌을..

알고리즘이 편향됐다는 이야기를 들으면 많은 사람들은 먼저 이렇게 반응한다. “알고리즘은 감정도 없고 의도도 없잖아?”라는 생각이다. 코드와 수식으로 이루어진 시스템이 사람처럼 차별하거나 치우칠 수 있다는 말은 직관적으로 잘 와닿지 않는다. 그래서 알고리즘의 결과가 특정 집단에 불리하게 나타날 때, 그 원인을 기술이 아니라 사회나 사용자의 문제로 돌리기도 한다. 하지만 이 혼란은 알고리즘이 어디까지 중립적인지에 대한 이해가 충분하지 않을 때 생긴다. 이 오해는 우리가 알고리즘을 ‘결정자’로 상상하기 때문에 생긴다. 마치 알고리즘이 스스로 판단을 내리는 주체인 것처럼 느껴진다. 실제로 알고리즘은 판단을 하지 않는다. 주어진 입력을 정해진 규칙에 따라 처리할 뿐이다. 문제는 이 입력과 규칙이 어떤 데이터를 바..

데이터가 많아질수록 결정이 쉬워질 것이라고 기대하는 사람은 많다. 숫자가 충분히 모이면 답도 자연스럽게 드러날 것 같기 때문이다. 하지만 실제로는 정반대의 경험을 하는 경우가 많다. 자료는 계속 쌓이는데, 판단은 오히려 더 느려지고 망설임은 커진다. “정보는 충분한데 왜 결정을 못 내리겠지?”라는 질문이 이때 자주 나온다. 이 혼란은 개인의 판단력이 부족해서가 아니라, 데이터가 늘어날수록 판단 구조가 달라지기 때문에 생긴다. 이 오해는 우리가 데이터를 ‘답에 가까워지는 재료’로만 생각하기 때문에 생긴다. 데이터가 적을 때는 선택지가 단순하다. 몇 개의 지표만 비교하면 되기 때문이다. 하지만 데이터가 많아질수록 비교해야 할 기준이 늘어나고, 서로 다른 지표들이 서로 다른 방향을 가리키기 시작한다. 어떤 데..

AI가 어떤 결과를 정확히 예측했을 때보다, 예측이 빗나갔을 때 사람들이 더 강하게 반응하는 장면은 익숙하다. “역시 AI도 별거 없네”라는 말은 대개 이럴 때 나온다. 반대로 AI 예측이 조용히 맞아떨어진 경우에는 큰 반응이 없다. 이 차이는 기술의 성능 차이에서 비롯된 것처럼 보이지만, 실제로는 우리가 기억을 선택적으로 남기는 방식과 더 깊이 연결돼 있다. 이 인식은 기대의 구조에서 시작된다. 사람들은 AI를 사용할 때 무의식적으로 ‘정확함’을 전제로 둔다. 기계이기 때문에 실수하지 않을 것이라는 기대가 먼저 생긴다. 그래서 예측이 맞았을 때는 “당연한 결과”로 받아들이고, 예측이 틀렸을 때는 “기대에 어긋난 사건”으로 인식한다. 기대를 벗어난 사건은 감정적으로 더 강하게 각인되기 때문에, 기억 속에..

과학적 근거를 바탕으로 정책이 만들어진다고 하면, 많은 사람들은 자연스럽게 “그럼 과학이 답을 정해주는 거 아닌가?”라고 생각한다. 그래서 정책 결과가 마음에 들지 않거나 예상과 다를 때, 과학 자체에 대한 불신이 함께 따라온다. “과학적으로 맞다면서 왜 이런 결정이 나왔지?”라는 질문은 이런 기대에서 나온다. 하지만 이 기대는 과학과 정책이 맡고 있는 역할의 차이를 충분히 구분하지 못할 때 생긴다. 이 오해는 과학과 정책을 하나의 연속된 결정 과정으로 상상하는 데서 시작된다. 과학이 사실을 밝히고, 정책은 그 사실을 그대로 옮겨 실행한다고 기대한다. 하지만 현실에서는 과학이 제공하는 것은 정답이 아니라 정보의 범위와 불확실성이다. 정책은 이 정보 위에 경제적 비용, 사회적 수용성, 정치적 책임 같은 요..

통계 수치를 두고 사람들이 전혀 다른 결론을 내리는 장면은 낯설지 않다. 같은 숫자를 보고도 누군가는 “상황이 심각하다”고 말하고, 다른 누군가는 “아직 걱정할 단계는 아니다”라고 말한다. 이럴 때 많은 사람들은 혼란을 느낀다. 통계는 객관적인 사실이라고 배워왔는데, 왜 해석은 이렇게 갈릴까? 이 질문은 통계가 잘못됐다는 의심보다는, 통계를 어떻게 이해해야 하는지에 대한 기준이 흔들릴 때 자연스럽게 나온다. 이 오해는 우리가 통계를 하나의 ‘결론’으로 받아들이는 데서 시작된다. 숫자는 분명하고, 그래프는 명확해 보인다. 그래서 통계가 제시되면 그 자체가 답을 말해줄 것이라고 기대한다. 하지만 통계는 결과라기보다 자료를 정리한 표현 방식에 가깝다. 어떤 구간을 기준으로 삼았는지, 무엇을 비교 대상으로 삼았..