한겨레

구본권의 스마트 돋보기

기계화와 알고리즘이 사람의 일자리를 대체하고 있는 음울한 현실에 관한 뉴스가 하루가 멀다하고 이어지는 가운데, 이색적인 소식이 전해졌다. 알고리즘이 자동 처리하던 업무를 앞으로 사람이 하기로 했다는 뉴스였다.

구글은 지난 17일 시스템에 의한 ‘자동 심사’로 처리해오던 구글 플레이 스토어의 앱과 게임 등의 등록 방식을 ‘수동’으로 변경하기로 했다고 발표했다. 앞으로 안드로이드용 게임과 앱은 구글의 담당자가 직접 검토하고 문제가 없을 경우에만 플레이스토어에 등록한다는 방침이다. 애플 앱스토어처럼 사람이 앱의 최종 등록을 승인하는 ‘수작업’ 방식으로의 변경이다. 주로 앱 개발자들의 관심 영역이지만, 세계 최대의 검색 기업 구글로서는 의미가 있는 정책의 선회라는 점에서 주목할 만하다.

구글은 그동안 고지식할 정도로, 알고리즘과 자동화에 의한 처리를 고집해왔다. 콘텐츠나 앱을 인터넷에 올리거나 장터에 등록하는 절차에 사람이 개입해서 검토하는 대신 사용자들의 평가와 자체적인 알고리즘에 따라 자동 처리되도록 해왔다. 구글은 콘텐츠 서비스에서 사람의 개입을 배제하거나 최소화하는 이유로, 인터넷에서는 표현의 자유가 중요하고 사전 검열이 허용되어서는 안된다고 믿기 때문이라고 강조해왔다. 사람이 콘텐츠를 사전에 검토하고 등록 여부를 결정하는 것은 일종의 사전 검열에 해당한다고 본 것이다. 알고리즘의 특성상 사례가 쌓이고 노하우가 축적되면서 더욱 정교해질 것으로 기대됐지만, 구글은 오히려 사람의 작업을 추가하기로 결정한 것이다.

구글은 사람 대신 알고리즘을 믿고 의존해왔다. 검색과 콘텐츠 분야는 말할 것도 없고, 사람의 개입과 결정이 필수적이라고 여겨져온 영역에서도 구글은 알고리즘을 구현하고 있다. 운전자가 필요없는 구글의 ‘자율 주행 자동차’나 편집자가 없는 ‘구글 뉴스’ 등이 대표적이다.

구글이 후발 검색업체로 출발해 세계 검색시장을 지배하는 절대강자가 된 비결도 자동화와 정교한 알고리즘에 있다. 갈수록 정보량이 눈덩이처럼 늘어나는 인터넷에서 효율성이 높은 검색 결과 처리 방식이다. 사람이 개입해 처리하면 당장의 문제를 해결할 수 있지만, 정보가 급속 증가하는 인터넷에서 지속되기 어려운 방식이다. 사람의 개입을 허용하기 시작하면, 미끄러운 내리막길에 발을 내딛는 형국이 되어 멈추기도 어렵다.

구글은 기본적으로 알고리즘의 설정을 통해서 검색 결과나 유튜브에 성인물이나 유해 콘텐츠가 노출되지 않도록 한다. 알고리즘에서 걸러지지 못한 부적절한 콘텐츠라도 사용자의 유해성 신고를 기반으로 노출에서 사라지게 만드는 ‘요청 뒤 삭제’(notice and takedown) 정책을 신봉해왔다. 국내 검색 포털에서는 거의 접할 수 없는 성인콘텐츠 등이 구글이나 유튜브 검색 결과에서 드물지 않게 나타나는 데는 구글의 이러한 정보 처리 방식이 하나의 배경이다.

하지만, 방대한 데이터와 통계를 기반으로 만들어낸 알고리즘은 완벽하지 않다. 더욱이 알고리즘보다 뛰어난 사람이 맹점을 노리거나 집단적으로 나서서 무력화시키거나 오류를 만들어낼 수 있다. 대표적인 게 구글 검색의 페이지랭크 기술을 이용한 ‘구글 폭탄’이다.

구글은 알고리즘을 더욱 정교화해가며 로봇과 인공지능의 영역으로 사업과 서비스를 확장해나가고 있지만, 플레이스토어에 인간의 개입을 허용한 것처럼 알고리즘의 한계도 경험하고 있다. 구글은 유럽연합 사법재판소의 2014년 ‘잊혀질 권리’ 판결로 인해, 직면하게 된 ‘검색 결과 노출 삭제 요청’ 처리도 알고리즘이 아닌 사람이 일일이 수작업으로 한다고 밝혔다.

구글이 플레이스토어의 검수와 승인 절차를 수작업으로 처리하기로 했다는 게, 알고리즘의 폐기는 아니다. 구글은 소프트웨어를 활용해 승인 요청 앱들에 대한 악성코드, 성적 콘텐츠, 저작권 침해 등을 걸러낸다. 이런 절차를 거친 뒤에 다시한번 사람이 최종 승인을 하는 절차로 바뀐 것이다. 플레이스토어에서 앱 승인에 걸리는 시간도 차이가 거의 없다.

구글의 플레이스토어 정책 변경은 기계와 사람의 공존 방법을 알려준다. 최대한 알고리즘과 자동화를 활용하되, 최종 결정은 사람이 해야 하는 영역이 있다는 것이다. 사실 최종 결정단계에서 사람이 현명한 판단을 내리지 않았다면 인류는 이미 미-소 냉전시대에 자동 작동하도록 설계된 ‘상호 확증 파괴시스템’에 의해 일찌감치 파멸했을지 모른다.

구본권 사람과디지털연구소장 starry9@hani.co.kr