한겨레

‘허위 조작정보(가짜 뉴스)’가 문제되자 구글 페이스북 등 정보기술 플랫폼 기업들은 가짜뉴스탐지와 차단에 인공지능을 활용하겠다는 계획을 밝혀왔다.

그러나 현실은 인공지능이 가짜뉴스 자동 생산에 활용되는 게 먼저일 가능성이 높다. <엠아이티(MIT) 테크놀로지 리뷰>에 따르면, 최근 미국의 인공지능 연구기관인 오픈에이아이(OpenAI) 연구진은 가짜뉴스를 자동 생성하는 알고리즘을 개발해 공개했다.

아래는 인공지능이 만든 가짜뉴스 속보다.

위 내용은 사람이 작성한 게 아니다. 오픈AI 연구진이 “도널드 트럼프의 우발적...... 직후 러시아는 미국에 대해 선전포고를 했다”(“Russia has declared war on the United States after Donald Trump accidentally …”)는 문장을 입력했을 뿐, 나머지는 인공지능 알고리즘이 순간적으로 자동생성한 문장이다.

쇼핑몰, 식당에 허위 후기 범람…정치 갈등 국면엔 파국 위험성

연구진은 인터넷의 방대한 문서로 학습한 범용 언어 알고리즘을 개발해왔다. 문장 번역, 질문 답변을 비롯한 다양한 용도로 쓸 수 있는 언어 알고리즘이다. 개발과정에서 연구진은 범용 언어 알고리즘의 악용 가능성을 깨달았다. OpenAI의 잭 클라크 정책실장은 “테스트를 해본 결과 악의적 내용을 매우 쉽게 생성하는 게 가능하다는 바로 확인했다”고 말했다.

이는 인공지능이 가짜 뉴스와 소셜미디어 게시글을 비롯해 다양한 문장을 자동으로 만들어낼 수 있음을 의미한다. 선거나 사회갈등 국면에서 가짜 뉴스와 허위 정보가 자동생성되어 유포될 수 있다. 이미 허위 조작정보의 폐해가 심각하지만 자동생성된다면 문제는 더 복잡해진다. 특정 집단과 개인별에게 최적화된 가짜 뉴스도 자동으로 만들어질 수 있다. 국내에서 그동안 댓글을 복사해서 자동등록하는 매크로 프로그램과 달리 웬만해서는 식별이 불능한 게시글과 댓글이 인터넷 공간을 가득 채우는 현상이 등장할 위험성을 지닌 기술이다. 현재도 쇼핑몰과 식당 리뷰 앱에 허위 후기와 게시글이 골칫거리다. 키워드만 제시하면 자동으로 그럴싸한 문장을 낮은 비용으로 만들어내게 되면 인터넷 생태계와 신뢰 구조는 붕괴할 수 있다.

연구진은 이 인공지능으로 공상과학 소설에서 놀라운 성공을 보여줬다며, 뉴스 요약과 채팅봇의 능력을 향상시키는 데 쓸 수 있다고 말했다. 연구진은 1~2년 뒤 기술이 완성될 것으로 보고, 악용될 가능성이 명확하기 때문에 그보다 앞서나가는 것을 목표로 하고 있다. 오픈AI 연구진은 기술의 악용가능성을 우려해 이번에도 기술 전체를 ‘오픈’하지 않고 일부만 외부에 공개했다.

“2022년 사실보다 허위 정보 더 많이 접할 것”

가짜 뉴스에 인공지능의 영향을 크게 신경 쓸 필요 없다는 견해도 있다. 세일즈포스의 수석과학자 리처드 소셔는 “가짜뉴스 생성에 굳이 인공지능이 필요한 것은 아니다. 사람이 얼마든지 쉽게 만들 수 있기 때문이다”라고 <엠아이티 테크놀로지 리뷰>에서 말했다.

하지만 가짜뉴스 자동생성 인공지능의 위험성을 외면하기엔 이르다.

클라크는 연구소의 인공지능 자동 문장생성기를 ‘딥페이크’ 기술에 비유했다. 2015년 인공지능 이미지 생성기술이 처음 등장했을 때만해도 진지하게 걱정한 사람이 드물었지만 머신러닝을 통해 기술은 빠르게 성숙했다. 2017년 인터넷에서 ‘딥페이크’ 아이디 사용자가 할리우드 여자배우들을 포르노 동영상에 감쪽같이 합성한 이후 우려가 현실화했다.

컨설팅기업 가트너는 2017년 미래전망 보고서를 통해 “2022년이 되면 사람들이 사실보다 허위 정보를 더 많이 접하게 될 것”이라고 전망한 바 있다. 인공지능 기술의 진전이 진짜같은 가짜를 자동생성해 가짜가 범람하고 진짜와 가짜의 식별이 갈수록 어려워지는 현실을 만들고 있다.

구본권 선임기자 starry9@hani.co.kr