한겨레

지난 14일 미국 뉴욕주 버펄로 흑인 밀집지역의 슈퍼마켓에서 흑인들을 겨냥한 무차별 총기난사로 10명이 사망한 사건을 계기로 소셜미디어 역할에 대한 새로운 논의가 일고 있다. 백인우월주의를 믿는 18살 남성 페이튼 젠드런은 사전에 범행 동기와 계획을 극우 음모론 웹사이트에 올려 범행을 예고하고, 방탄모에 장착한 고프로 카메라를 통해 범행 장면을 인터넷으로 생중계했다는 점에서 충격을 안겼다.

범인은 사전에 “공격을 실시간 중계 (라이브 스트리밍) 하면 사람들이 나를 응원할 것이라는 사실이 동기를 부여한다”며 배경을 밝혔다. 3년 전 뉴질랜드 크라이스트처치 테러를 모방한 범죄다. 2019년 3월 15일 뉴질랜드 크라이스트처치에 있는 이슬람 모스크에서 인종 혐오에 사로잡힌 오스트레일리아 출신 남성 브렌튼 태런트(28)가 무차별 총격을 가해 51명이 숨지고 50명이 다치는 사건이 발생했다. 당시 범인은 사전에 페이스북에 범행계획과 실시간 중계를 예고하고, 페이스북에서는 잔혹한 범행 장면이 생중계됐다. 테러 이후 소셜미디어 책임론이 불거지고, 다양한 기술적 장치가 도입됐지만 왜 유사한 범행이 재연된 것일까.

이번 범행은 혐오 범죄 확산에 악용되는 소셜미디어의 취약점을 드러냈다. 젠드런이 범행 생중계를 위해 선택한 플랫폼은 트위치다. 미국 샌프란시스코에 본사를 둔 트위치는 2011년 개설된 실시간 개인방송 플랫폼으로, 온라인 게임 위주의 콘텐츠로 사용자가 1억명에 이른다. 14살 이상이면 가입가능하고, 2014년 아마존에 인수됐다.

2019년 크라이스트처치 테러 이후 대표적 소셜미디어들이 폭력 콘텐츠 정책을 강화한 것도 범인이 트위치를 선택한 배경이다. 젠드런은 범행 전에 “실시간 스트리밍은 무료이고 인터넷에서 누구나 시청하고 기록할 수 있다”며 트위치 선택 이유를 공개했다. 유튜브는 계정을 인증하고 구독자 50명을 확보한 이후부터 모바일 생중계가 가능하지만, 트위치는 이런 제한이 없어 누구나 생중계를 할 수 있다. 트위치는 생중계 2분 만에 삭제했으며 범인의 트위치 스트리밍을 시청한 사람은 22명에 불과했다고 발표했다.

<뉴욕타임스> 에 따르면, 전문가들은 크라이스트처치 테러 때 페이스북에서 17분 동안 실시간 중계가 이뤄진 것과 비교하면 2분 만의 삭제는 매우 빠른 대응이라고 평가했다. 하지만 인터넷에서 2분은 복제와 확산에 충분한 시간이다. 트위치에서 삭제된 영상은 복제되어 다수의 사이트에서 빠르게 번져나갔고 한 사이트 (streamable)에서만 삭제되기 전에 300만건 이상 조회가 이뤄지고 해당 링크를 제공하는 페이스북과 트위터 게시물은 수백번 넘게 공유됐으며 일부는 10시간이 지나도록 남아 있었다. 젠드런은 범행 전에 메신저 (디스코드)와 웹사이트 (4chan)에 총격 계획을 공유해, 초기 시청자들이 복제와 공유에 나서도록 했다. 18살 범인이 소셜미디어의 폭력 대응 취약점을 노렸다는 것을 보여준다.

크라이스트처치 테러 두달 뒤인 2019년 5월 저신다 아던 뉴질랜드 총리와 에마뉘엘 마크롱 프랑스 대통령이 주도하는 국제적 연대 ‘크라이스트처치 선언’이 출범했다. 온라인에서 증오표현과 폭력 선동을 콘텐츠를 규제하기 위한 이 조직에 유튜브·페이스북·트위터·아마존 등 정보기술 기업들과 50여국이 참여했다. 참여 기업들은 소셜미디어에서 극단적 폭력이나 증오 표현의 확산을 막을 인공지능과 알고리즘을 개발하고 공동으로 데이터베이스를 구축하고 활용하기로 했다.

크라이스트처치 선언 이전인 2017년 6 월 구글· 마이크로소프트·페이스북·트위터 등 주요 인터넷 기업은 ‘ 테러리즘 대응을 위한 국제 인터넷 포럼 (GIFCT)’ 이라는 자율규제 기구를 설립한 바 있다 .

크라이스트처치 선언은 테러와 극단주의 콘텐츠에 대한 구체적 대응방안도 제시했다. 그중에는 소규모 온라인 서비스업체들이 자유롭게 활용할 수 있는 도구와 기준을 제공하는 방안과 언론이 극단주의 콘텐츠를 증폭하지 않아야 한다는 점도 포함돼 있다. <뉴욕타임스>는 플랫폼 업체가 비극적 사건에 대해 검색을 차단하는 일은 매우 간단한 일이라며 페이스북이 한때 버펄로 총기난사 동영상을 ‘인기 동영상’으로 추천했다는 사실을 지적했다.

<워싱턴포스트>는 총기난사 생중계가 두 가지 과제를 제시했다고 지적했다. 하나는 중계 영상을 감지·제거하는 문제이고, 다른 하나는 사건 이후에 확산되는 영상과 공유를 차단하고 제거하는 문제다. 경찰이나 군인의 잔혹행위 영상 등은 소셜미디어에서 모든 폭력을 제거하는 쉬운 해결책이 없다는 걸 알려준다. <뉴욕타임스>와의 회견에서 컬럼비아대 이블린 두어크 연구원은 “이런 공격은 소셜미디어를 기반으로 하는 측면이 있는데 앞으로 계속될 것이며 막기 어려울 것”이라고 말했다. 소셜미디어와 실시간 방송 플랫폼의 취약점이 혐오와 잔혹 범죄에 악용되는 상황에 대한 더 깊은 논의와 대응이 절실해지고 있다.

구본권 사람과디지털연구소장 starry9@hani.co.kr