한겨레

알고리즘이 지배한다는 착각

수학으로 밝혀낸 빅데이터의 진실

데이비드 섬프터 지음, 전대호 옮김 l 해나무(2022)

숫자에 깃든 ‘생각’을 읽을 수 있을까? 우리는 소설의 좋은 문장에서 자기만의 느낌과 생각을 떠올린다. 작가의 문장이 우리 삶 속으로 걸어 들어오는 느낌을 경험한다. 단어로 조합된 문장이 감동을 주는 것처럼 숫자로 이뤄진 수학 공식이 깊은 의미를 나타낼 수 있다. 응용수학자, 데이비드 섬프터가 쓴 <알고리즘이 지배한다는 착각>은 숫자와 수학, 알고리즘에 깃들어 있는 인간의 ‘생각’을 드러낸 책이다.

최근 빅데이터와 알고리즘의 폐해를 고발하는 책이 많이 출간되는데 <알고리즘이 지배한다는 착각>은 그것들과 대척점에 서 있는 듯이 보인다. 캐시 오닐의 <대량살상 수학무기>가 수학을 대량살상무기와 같은 위험물로 취급했다면, 이 책은 알고리즘에 대한 공포가 과장되었다고 주장하는 것 같다. 결론을 보자면 그런 추측이 가능하다. 알고리즘은 도구이고, 어떻게 사용하는가에 따라 천사도 악마도 될 수 있다고 말이다. 하지만 섬프터가 알고리즘을 설명하는 방식은 이러한 이분법적 구도에서 벗어나 있다.

“나는 알고리즘 사용이 무엇으로 귀결되는지를 진지하게 숙고하지 못했다.” 이 책은 현실의 문제를 외면했던 지은이의 뼈아픈 성찰에서 시작한다. 빅데이터와 알고리즘이 돌이킬 수 없을 정도로 나쁘게 사용된다는 아우성을 잠시 뒤로하고, 무엇이 문제인지를 하나하나 검토한다. 언론과 논문에 등장하는 난해한 수학적 용어를 접하면서 과연 이 설명이 맞을지 의심하고, 과정은 싹둑 잘라내고 결론만 제시하는 위험을 피하기 위해 스스로 알고리즘의 블랙박스를 열어서 분석한다. 직접 수학적 모형을 만들어 연구하고, 전문가를 찾아가서 의견을 나눈다. 확신이 들지 않을 때 무엇이든 의심하는 과학적 태도로 인공지능의 실체에 다가섰다.

우리는 인공지능이 똑똑해져서 인간을 넘어설 때가 올 것이라고 믿는다. 그때가 언제냐고 자꾸 묻는데 지은이는 질문 자체에 문제가 있음을 지적한다. 도대체 ‘인간을 넘어선다’는 뜻이 무엇인가? 이 질문은 답하기 어려운 철학적 의미를 내포하고 있다. 인류는 수천 년 동안 다양한 형태의 수학적 ‘인공’지능을 생산해왔다. 고대의 삼각법과 기하학, 알고리즘을 창시한 이슬람의 대수학, 뉴턴과 라이프니츠의 미적분학 개발, 그 연장선에 현대의 컴퓨터와 알고리즘이 있다. 이미 알고리즘은 여러 방식으로 인간 지능을 능가했다.

알고리즘이 지배한다는 생각이 착각이듯이 알고리즘이 공정하다는 생각 또한 착각이다. “알고리즘이 공정할까?”라는 질문부터 잘못되었다. 수학에 공정성의 공식은 존재하지 않는다. 공정성이나 올바름은 인간이 느끼는 가치다. 우리가 어떻게 행동해야 옳은지 알아내려고 수학에 의지하는 행위가 아이러니라고 할 수 있다. 구글의 검색기능이나 인공신경망의 알고리즘이 하는 일은 단어를 세고 가중치를 부여하는 것이다. 우리가 제공한 데이터로 자율학습하는 알고리즘은 당연히 인간 사회의 인종 차별이나 젠더 편견을 반영한다. 때문에 “알고리즘이 성차별적이라고 말하는 것은 부적절하다.” 본래 알고리즘은 공정하지 않고 편향적이다.

기계는 단순 계산을 반복할 뿐, ‘생각’하지 않는다. 컴퓨터의 알고리즘이 수집한 방대한 통계 수치를 보고 그 의미를 이해하는 것은 인간이다. 알고리즘의 정확도에 근본적인 한계가 있기 때문에 인간을 판단하게 해서는 안 된다는 것이 인간 수학자의 ‘생각’이다.

정인경/과학저술가