한겨레

소셜미디어 서비스가 허위 왜곡정보(가짜 뉴스) 문제를 개선하기 위해 도입한 방법이 오히려 추가적으로 정보 왜곡을 불러일으키는 도구로 쓰이고 있다. 자동화 알고리즘에 의존한 콘텐츠 분류 서비스의 품질에 대한 회의가 커지는 상황이다.

15일(현지시각) 프랑스 파리의 노트르담대성당 화재는 인터넷과 소셜미디어를 통해 빠르게 전파됐다. 많은 사람들은 세계 최대 동영상 플랫폼인 유튜브를 통해 불길에 휩싸인 노트르담대성당의 생생한 동영상을 시청했다.

그런데, 유튜브에서 유튜브 영상이 가짜 뉴스와 음모론의 도구로 활용되는 것을 예방하기 위해 최근 도입한 ‘정보 패널(information panels)’이 오히려 잘못된 정보를 제공하며 음모론을 부추기는 현상이 일어났다.

<버즈피드>와 <워싱턴포스트> 보도에 따르면, 유튜브에서 노트르담대성당 화재현장을 보도하는 메이저 언론사의 영상에 대해 유튜브는 ‘9.11 테러’에 관한 브리태니커백과사전 항목을 ‘정보 패널’을 통해 제시하며, 이번 화재가 테러일 가능성을 시사했다.

‘NBC’ ‘CBS’ ‘프랑스24’ 등이 유튜브에서 제공한 영상에 유튜브는 바로 아래 ‘9.11 테러’ 정보패널을 제공했다. 이에 많은 이용자들이 트위터에 캡처 영상을 올리며 문제를 제기했다. 파리시 당국은 화재 원인에 대해 “성당 보수작업으로 인한 것이라며 테러의 증거는 전혀 없다”고 밝혔다. 유튜브는 정보 패널에 대한 문제제기가 잇따르자, 오래지 않아 정보 패널을 삭제했다. 유튜브가 지난해 제공하기 시작한 정보 패널은 현재 한국과 미국 유튜브에서만 서비스되고 있다.

유튜브는 이날 성명을 통해 “이용자들의 오해를 불러일으킬 수 있는 영상에 대해서 브리태니커 백과사전, 위키피디어와 같은 외부 정보원을 링크하는 ‘정보 패널’ 서비스를 시작했다. 이는 알고리즘에 의해 작동하는데, 가끔 잘못된 정보를 제공한다. 화재와 관련된 라이브스트림(생중계)에 관한 정보 패널을 불능화했다”고 밝혔다.

한달 전인 3월15일 뉴질랜드 크라이스트처치의 이슬람 사원 두 곳에서 벌어진 무차별 총격 테러는 소셜미디어의 악영향을 충격적으로 드러냈다. 테러범이 페이스북 라이브를 통해 테러 영상을 생중계하고, 일부 이용자들에 의해 테러 동영상이 유튜브로 확산되었다. 소셜미디어가 문제의 콘텐츠를 막지 못하고 공포 극대화를 노린 테러범의 의도를 충실하게 지원한 결과가 됐다.

그동안 소셜미디어는 인공지능과 자동화 알고리즘을 통해, 저작권 위반과 음란물, 유해 동영상을 인식해 사람이 할 수 없는 빠른 속도와 높은 정확도로 처리해왔음을 홍보해 왔으나, 최근 잇단 실패 사례가 보고되고 있다.

기계학습 전문가인 워싱턴대 페드로 도밍고스는 <워싱턴포스트>와의 인터뷰에서 “(이번 유튜브 정보패널 오류는) 전혀 놀랍지 않다. 소셜미디어업체들은 알고리즘에 의존해야 하지만, 알고리즘은 모두 고장 모드가 있고 드러날 수밖에 없다. 때때로 피할 수 있는 두더지잡기게임이 아니고, 지는 게임이다”라고 말했다.

인공지능시대 알고리즘과 자동화에 대한 기대와 의존이 높아져가고 있지만, 콘텐츠의 적절성을 평가하는 데 있어서는 현재 시점 기준 사람이 월등하다는 것을 다시 확인시켜주는 사례다.

구본권 선임기자 starry9@hani.co.kr