한겨레

아나운서는 재난 등 긴급 상황에 대비해, 정규 방송이 없는 시간대에도 상시 대기해야 하는 직종이다. 지난 8일 중국 저장성 우전에서 열린 세계인터넷대회에선 ‘인공지능 아나운서’가 등장했다. 중국 관영 <신화통신>은 인공지능 아나운서가 중국어와 영어로 뉴스를 전하는 영상을 공개했다. 보도할 문장을 입력하면 그에 맞는 입 모양, 표정을 지으며 음성을 전달한다. <신화통신>은 인간 아나운서는 하루 8시간 일하지만 인공지능 아나운서는 피곤을 모른 채 24시간 일한다고 홍보했다.

구글은 지난 5월 연례 개발자대회에서 사람 대신 식당과 미용실에 예약전화를 걸어 매장 직원과 복잡한 대화를 주고받는 인공지능 음성비서 듀플렉스를 공개했다. 듀플렉스는 붐비지 않는 요일과 가능한 서비스를 선택해 예약했고, 듀플렉스의 목소리와 대화 내용은 전화 건 상대가 사람이 아닐 수 있다고 상상하기 어려운 수준이었다.

딥페이크는 인공지능을 이용해 문장과 목소리, 입 모양을 원하는 대로 합성해주는 기술이다. 메르켈, 오바마 등 유명 정치인을 모델로 한 가짜 동영상이 만들어졌는데 가짜인지 식별하기 힘든 수준이다. 값비싼 장비와 기술자를 동원해 만들던 영화용 특수효과를, 공개된 인공지능 도구를 이용해 손쉽게 구현할 수 있는 상황이다. 생생한 현장 동영상과 함께 “상대를 공격하라”는 종교·정치 지도자의 발언 영상이 조작되어 소셜미디어를 통해 전파된다면 폭동과 대규모 충돌을 피하기 어렵다.

인간은 오랜 세월에 걸쳐 소통과 인지 능력을 발달시키며 고유의 신뢰 층위를 형성했다. 사람은 언어를 사용해 효과적으로 정보를 소통하지만, ‘백문불여일견’이라는 말처럼 시각적 증거는 언어적 소통의 신뢰도를 압도한다. 사진이 첨부된 뉴스는 눈길을 끌 뿐 아니라, 더 높은 신뢰가 주어진다. 인간 인지 구조는 글보다 사진을, 사진보다 동영상을 더 신뢰하게끔 만들어졌다. 디지털 세상에서 가짜뉴스가 활개치는 현실의 배경이다.

사회학자 윌리엄 오그번은 물질문명에 비해 비물질적 문화의 변동 속도가 느려서 생기는 혼란을 ‘문화 지체’라고 설명했다. 진짜와 식별하기 어려운 가짜를 만들어내는 인공지능은 호모 사피엔스를 ‘인지 지체’에 빠지게 했다. 가짜뉴스에서 나타나는 지적 지체를 해결할 방법을 찾는 게 인공지능 시대 민주사회의 핵심 과제다.

구본권 사람과디지털연구소장 starry9@hani.co.kr