한겨레

사람을 대상으로 한 ‘인터넷 실명제’의 실패를 딛고 인공지능시대에 ‘로봇실명제’는 성공할 수 있을까?

미국 캘리포니아주는 7월부터 이른바 ‘로봇실명제’를 시행하고 있다. 이달부터 캘리포니아에서 시행되는 이 법의 정식 명칭은 ‘온라인 투명성 강화법’(B.O.T : Bolstering Onine Transparency)이다. 이 법은 캘리포니아 주민의 투표와 구매 행위에 영향을 끼치려는 의도를 지닌 봇은 자신이 로봇이라는 사실을 분명하게 밝히게 하는 게 주내용이다. 챗봇과 같은 자동화 프로그램이 로봇임을 밝히는, 로봇 신원확인 규정이다. 로봇이 소셜미디어 계정이나 활동을 통해 이용자를 오인하게 만드는 상황에 대한 대응이다.

이 법안을 발의한 빌 허츠버그 캘리포니아주 상원의원이 개설한 트위터 계정(@Bot_Hertzberg)이 본보기다. 이 계정은 자신을 설명하는 문구에 “나는 로봇(BOT)이다. 이 계정처럼 자동화된 아이디는 이용자를 오도하고 착취한다. 하지만 다른 봇들과 달리 나는 투명하게 내가 봇이라는 것을 밝힌다”고 적고 있다. 소셜미디어에서는 각종 봇들이 생겨나 허위 계정을 통해 팔로어를 부풀리고, ‘좋아요’와 ‘공유’ 활동을 하며 이용자를 기만하고 오도해왔다. 2016 미국 대선에서 소셜미디어 가짜 계정을 만든 봇의 활동과 영향이 두드러졌고 규제 여론이 커졌다. 러시아는 2016년 미국 대선에 영향력을 끼치기 위해 대량의 허위 계정과 봇을 통해 소셜미디어의 여론을 조작했다는 비판을 받고 있다.

이 법은 해당 봇을 소유하거나 개발한 사람이 자동화 계정에 대해 책임을 지고 트위터, 페이스북과 같은 플랫폼 제공자는 책임이 없다고 규정한다. 규정을 위반할 경우 캘리포니아 불공정규제법에 따라 최대 2500달러(약 300만원) 벌금이 부과된다.

‘로봇실명제’는 로봇 계정 자체를 불허하지 않고 로봇 스스로 자신이 로봇임을 밝히게 해 이용자가 챗봇에 속거나 오도당하는 경우를 막기 위한 시도다. 국내에서 논란을 일으켰던 ‘인터넷 실명제’와 유사하다.

캘리포니아주의 ‘로봇실명제’는 국내에서 인터넷 실명제가 직면한 것과 유사한 반대에 직면하고 있다. 미국의 전자프론티어재단(EFF)은 지난해 이 법안 발의 과정에서 성명을 발표해 “모든 봇들이 자신이 로봇이라는 것을 공개하도록 요구하는 것은 언론 자유와 창의성을 저해할 것”이라고 반대 의견을 밝히기도 했다.

인터넷상의 허위정보에 대응하기 위해 2015년 미국 오스틴에 설립된 정보전문가그룹 뉴 놀리지(New Knowledge)의 연구책임자 리니 디레스터는 24일 <와이어드> 기고를 통해, ‘로봇실명제’의 한계를 조목조목 지적했다.

디레스터는 로봇실명제는 좋은 입법 목적으로 만들어졌지만, 법이 규제하려는 바가 명확하지 않고 시행방법 등이 잘못되었다고 지적했다. 법의 규제 대상은 ‘자동화 봇, 계정과 그들이 만들어낸 결과물’인데, 이는 악의성 없는 다양한 서비스 챗봇 등도 포함한다. 또한 러시아와 연계된 소셜미디어 계정들의 경우 ‘봇’으로 지칭되지만, 실제로는 사람의 명령에 따라 조작된 경우도 적지 않았다.

이 법은 트위터나 페이스북이 유명한 사람의 계정에 대해 ‘인증 계정’(verified)을 부착하는 것처럼 봇 계정에는 ‘로봇 스티커’를 붙이게 하는 형태로 구현될 수 있다. 디레스터는 이용자를 속이려는 의도를 가진 나쁜 로봇들이 자발적으로 “나는 로봇입니다”라고 밝힐 것을 기대한다는 것이 어불성설이라고 지적한다. 로봇 개발자, 소유자가 자발적으로 로봇임을 공개하도록 한 점 또한 법률로서의 강제성이 부족하다. 트위터와 페이스북과 같은 거대 플랫폼 사업자들은 ‘로봇실명제’에 맞는 검증 시스템을 구축할 수 있지만, 소규모 사업자와 플랫폼 운영자들에게는 구축과 운영에 상당한 비용을 투입하게 만드는 결과를 가져올 수 있다는 우려도 있다.

이러한 우려와 논리는 한국 정부가 ‘제한적 본인확인제’라고 부른 ‘인터넷 실명제’ 국면에서 모두 만난 익숙한 장면이다. 캘리포니아 ‘로봇실명제’는 법의 실효성 여부를 떠나 인터넷 여론 공간에서 로봇과 알고리즘이 끼치는 영향을 보여주는 잣대의 의미가 크다. 국내 인터넷 실명제가 인터넷 악플로 인한 유명 연예인 자살 사건과 비판여론 차단을 계기로 추진 동력을 얻은 것처럼, 로봇실명제 또한 로봇에 의한 소셜미디어 여론 왜곡이 배경이다.

문제의 배경에는 인간 이용자들은 많은 경우에 있어 “당신이 로봇이 아님을 증명하시오”라는 자동화된 튜링테스트(캡차)를 통해 끊임없이 ‘인간 증명’을 하고 있지만, 로봇들은 지금까지 그러한 존재 증명을 요구받아오지 않았다는 현실이 있다. 그 결과 많은 사람들은 화면 속의 대화상대가 ‘사람이 아닌 로봇’이라는 생각을 거의 해보지 않아왔다. 그에 대한 시도의 하나로 ‘로봇실명제’가 시행되고 있는 것이다.

구본권 선임기자 starry9@hani.co.kr