한겨레

기술 예상밖 결과에 개발자 반성
핵무기·다이너마이트에 SNS 추가

기술과 서비스는 대개 도구로 비유된다. 칼과 총은 그 자체로 좋고 나쁜 게 아니라 어떤 상황에서 누가 무슨 용도로 사용하는지에 따라 의미가 달라진다. 기술은 사용 맥락과 의도에 따라서 용도가 판이하지만, 강력한 기술을 처음 생각해 세상에 내놓은 개발자들은 자신의 역할에 대해 고민에 빠지기도 한다. 개발자는 중립적 의도 또는 선한 목적을 갖고 개발했지만 결과적으로 사회에서 ‘파괴적 도구’로 사용되는 현실 앞에서 책임을 피할 수 없다고 보는 까닭이다.

미국의 물리학자 로버트 오펜하이머는 제2차 세계대전 말기 미국 로스앨러모스연구소 소장을 맡아 원자폭탄을 개발하는 맨해튼 프로젝트를 주도한 원자폭탄의 아버지다. 오펜하이머는 자신이 만든 원자폭탄이 실제로 일본에 투하돼 엄청나게 많은 사람을 학살한 것을 보고 충격을 받고 참회와 반성의 길에 들어섰다. “나는 죽음의 신, 세상의 파괴자가 되었다”고 참회하며 이후 수소폭탄 개발을 요구하는 미국 정부에 맞서 반대운동을 펼치다가 숱한 비난과 곤경에 처했다.

1867년 강력하고 안정적인 폭약 다이너마이트를 개발해 막대한 재산을 모은 스웨덴의 과학자 알프레드 노벨은 자신의 발명품이 대량살상무기로 사용되며 자신이 ‘죽음의 상인’으로 불리는 현실에 충격을 받고 인류 평화를 위한 길에 뛰어들었다. 1966년 미국 매사추세츠공대의 조지프 와이젠바움 교수는 자동 심리상담 프로그램 일라이자를 만들어 선풍적 인기와 기대를 받은 인공지능 초기 개발자다. 그는 기계인 일라이자와의 소통에 탐닉하는 사람들을 보면서 기계가 사람을 기만할 수 있는 상황을 고민하고 이후 정보화 기술과 인공지능에 대한 날선 비판자로 돌아선다.

기술의 실제 사용 앞에서 충격을 받고 뒤늦은 참회에 나서는 개발자의 목록에 세계 최대 소셜미디어인 페이스북도 최근 이름을 올렸다.

차마트 팔리하피티야(41)는 2007년 페이스북에 입사해 2011년 퇴사하기까지 부사장을 지내며 페이스북의 성장을 이끈 초기 리더인데, 최근 페이스북 역할에 대해 ‘엄청난 죄책감’을 느낀다고 고백해 화제다. 지난 11일 온라인매체 <버지>가 팔리하피티야의 지난달 스탠퍼드대 경영대학원 강연 내용을 보도하면서 실리콘밸리 등 미국의 정보기술업계에서 페이스북의 역할에 대한 근본적 문제제기가 잇따르고 있다.

팔리하피티야는 강연에서 페이스북을 “도파민에 의해 작동하는 단기 피드백 순환고리”(short-term, dopamine-driven feedback loop)라고 규정하고 페이스북이 사회가 작동하는 방식을 파괴하는 도구라고 말했다. 그는 “사회적 담론과 협력이 사라지고 왜곡된 정보와 거짓만 남았다. 미국만의 문제도 아니고 (2016 미국 대선에 영향을 끼친) 러시아 광고만의 문제도 아니며 지구적 차원의 문제다”라고 말했다. 도파민은 뇌 속의 신경전달물질로 자극적이고 짜릿한 쾌감을 느낄 때 분비되며 술, 도박, 마약 등은 도파민 분비를 촉진하는 구조로 중독을 일으킨다.

팔리하피티야는 학생들에게 “인지 못하지만 여러분 행동은 프로그램되고 있다. 의도적이지 않지만 여러분은 얼마나 지적으로 독립적이게 되는지 또 기꺼이 무엇인가를 포기하려고 할지를 (페이스북에 의해) 결정하게 된다”며 “여러분이 의존하고 있는 소셜미디어를 중단하라”고 권고했다. 그 자신은 지난 몇년 동안 단 몇차례만 페이스북에 글을 올렸으며 자녀에게는 절대 사용하지 못하게 한다고 덧붙였다.

페이스북의 내부고발자는 그만이 아니다. 페이스북의 초기 투자자이며 공동창업자이고 음원공유 사이트 냅스터 설립자인 숀 파커도 지난달 “나는 소셜미디어에 대한 ‘양심적 반대자’가 되었으며 페이스북과 소셜미디어는 인간의 심리적 취약점을 공략하는 방법으로 성공을 일구고 있다”고 말했다. 페이스북에서 제품 매니저를 지낸 안토니오 가르시아 마르티네스도 <카오스 멍키>라는 책을 펴내 페이스북이 사용 데이터를 수집해 개인들에게 영향을 끼치는 능력에 대해 거짓말을 하고 있다고 고발했다고 <워싱턴 포스트>가 지난 12일 보도했다.

페이스북은 “세상을 더 개방적이고 연결되게 만드는 것”이 기업 목표라고 줄곧 밝혀왔지만, 2016년 미국 대선에서 가짜 뉴스와 러시아 광고를 방치한 일이 불거지고 온라인상 각종 혐오 발언과 집단 극화의 주무대가 되고 있다.

고발과 비판이 거세지자 페이스북도 부분적 책임을 인정했다. 페이스북은 지난 15일 자사 공식 블로그에 ‘어려운 질문들: 소셜미디어 이용에 시간을 보내는 것은 나쁜가?’라는 글을 게재했다. 페이스북은 글에서 미국 역학저널에 발표된 논문을 통해 “전형적인 페이스북 사용자보다 ‘좋아요’를 더 많이 누른 사람들의 신체적·정신적 건강이 악화된 것으로 보고됐다. 스크롤만 하면서 ‘좋아요’를 많이 누르고 타인과의 깊은 상호작용 없이 업데이트를 올리는 수동적 소비 행태는 건강에 더 해로울 수 있다”는 내용을 전달했다. <뉴욕 타임스>는 페이스북이 올린 글이 자신의 존재 이유에 대한 직접적 모욕이라고 평가했다.

“프라이버시는 없다” “페이스북의 가짜 뉴스는 실제 대선 투표에 영향을 끼치지 않았다”며 페이스북의 정당성을 주장해온 마크 저커버그 최고경영자도 최근에는 잇단 비판에 고개를 숙이고 페이스북의 책임을 인정하는 태도를 보이고 있다. 저커버그는 지난달 분기 실적 발표회에서 대선에서 페이스북 영향에 대해 사과하고 수익이 낮아지더라도 건강한 공동체를 우선하겠다는 방침을 밝혔다.

구본권 사람과디지털연구소장 starry9@hani.co.kr