알고리즘은 중립적인데 결과는 왜 편향돼 보일까?
알고리즘이 편향됐다는 이야기를 들으면 많은 사람들은 먼저 이렇게 반응한다. “알고리즘은 감정도 없고 의도도 없잖아?”라는 생각이다. 코드와 수식으로 이루어진 시스템이 사람처럼 차별하거나 치우칠 수 있다는 말은 직관적으로 잘 와닿지 않는다. 그래서 알고리즘의 결과가 특정 집단에 불리하게 나타날 때, 그 원인을 기술이 아니라 사회나 사용자의 문제로 돌리기도 한다. 하지만 이 혼란은 알고리즘이 어디까지 중립적인지에 대한 이해가 충분하지 않을 때 생긴다. 이 오해는 우리가 알고리즘을 ‘결정자’로 상상하기 때문에 생긴다. 마치 알고리즘이 스스로 판단을 내리는 주체인 것처럼 느껴진다. 실제로 알고리즘은 판단을 하지 않는다. 주어진 입력을 정해진 규칙에 따라 처리할 뿐이다. 문제는 이 입력과 규칙이 어떤 데이터를 바..
일반인이 오해하는 과학 개념
2026. 1. 14. 12:24