한겨레

대화형 인공지능 서비스 챗지피티(ChatGPT) 돌풍이 거세다. 예술, 교육, 심지어 정치까지 챗지피티의 활용사례가 알려지며 태풍으로 번지고 있다. 챗지피티는 시나 에세이, 수학문제 풀이 수준을 넘어 법안 초안도 만든다. 머잖아 정치과정에서 인간이 수행해온 로비 역할까지 대체할 것이라는 전망이 나온다. 인공지능은 이미 민주주의 과정 전반을 흔들고 있다.

지난달 25일 미국 <워싱턴포스트>는 매사추세츠주 상원의원 배리 파인골드가 챗지피티를 활용해 개인정보 보호 관련 법안 초안을 만들었다고 보도했다. 개인정보 보호와 지적재산권 보호를 위해 인공지능 기업이 알고리즘에 대한 정보를 공개하고 정기적으로 위험성을 점검하는 등의 조처를 시행해야 한다는 내용이다.

챗지피티는 어떻게 법안 초안을 만들 수 있었을까? 법안 작성은 챗지피티가 대화형 인공지능 서비스라는 특성을 고려해 사용자가 법안과 관련해 특정 질문을 던지면 이에 대해 챗지피티가 답변하는 방식으로 이루어졌다. “매사추세츠주 법 스타일로 법안 초안을 작성하라”라고 요청했을 때 처음에는 챗지피티가 “법안 초안을 작성할 수 없다”며 거절했지만, 여러 차례 시행착오 끝에 ‘70퍼센트’ 수준의 초안을 만들었다고 파인골드 의원은 말했다. 사용자가 풍부한 아이디어를 가지고 이를 구현할 수 있게 구체적으로 요청할 때 결과도 유용했다. “챗지피티는 비식별화 문제, 데이터 보안과 같은 일부 주제에 대해서는 합리적 아이디어도 제시하는 등 독창적 기여도 했다”고 파인골드 의원은 평가했다.

민주주의에서 법안 작성은 고도의 정치적 행위다. 법은 갈등하고 충돌하는 여러 이해관계가 경합하는 장이며 이를 조정해 구속력있는 문서로 만드는 과정이다. 이처럼 인간 사회를 규율하는 제도, 법 제정 등 인간에게 고유한 고도의 정치과정에 인공지능이 개입하면서 민주주의 근간이 흔들리고 있다. 전문가들은 입법과정에서 요구되는 문서 요약, 자료 및 법안의 비교 등을 위해 챗지피티를 사용할 수 있지만 인간의 감독이 필요하다고 말한다. 즉, “법안 작성 등과 같은 정치과정에서 챗지피티가 인간을 대체할 수 없으며 노동력을 절약하는 장치로써만 활용되어야 한다”는 것이다.

챗지피티는 여론 형성과 정책 개입 등 로비 과정에도 활용될 수 있다. 지난달 15일 미국 <뉴욕타임스>에 실린 데이터 과학자 네이선 샌더스와 보안 전문가 브루스 슈나이더의 공동 기고문 ‘챗지피티는 어떻게 민주주의를 탈취하는가’에 따르면, 챗지피티는 특정 정책에 대한 의견 작성, 지역신문에 기고할 편지 작성, 소셜 미디어 게시물 작성, 뉴스 기사에 대량의 댓글 달기 등의 방식으로 여론에 개입할 수 있다. 정책에 영향을 미치는 핵심 정치인, 또는 여론주도층을 선별해 이들에게 정확한 메시지를 작성·전달하는 것이 유능한 로비스트의 역할이다. 챗지피티는 아직 핵심 정치인을 찾아내는 데는 이르지는 못하지만 빠르고 정확한 메시지 작성에서는 놀라운 능력을 보인다. 머잖아 챗지피티의 자동 메시지 작성 기능과 정치 네트워크를 이해해 핵심 정치인을 타겟팅할 수 있는 시스템이 결합한다면 파괴력은 상당할 것이다. 챗지피티가 기업의 법인세, 국방예산 등과 같은 특정 정책 영역에서 가장 큰 영향력을 가진 의원을 스스로 찾아내어 이들에게 정확한 메시지를 직접 작성·전달하는 ‘원스탑 로비’도 가능해질 수 있다는 의미다.

민주주의에서 여론은 목소리를 낼 수 없던 보통의 시민들이 정치에 참여하고 영향을 미칠 수 있는 핵심 무기다. 여론 조작은 민주주의를 위협하는 중대한 범죄로 간주한다. 러시아가 2016년, 2020년 트럼프의 당선을 돕기 위해 소셜 미디어에 유령 계정들을 자동 생성하는 ‘봇(bots)’ 프로그램을 심거나 사이버 댓글부대를 운영하는 방식으로 여론조작을 시도한 것이 대표적 사례다. 2017년 한국 대선에서도 매크로 프로그램을 이용해 포털사이트 기사 댓글의 공감·비공감 클릭 수를 조작하는 방식으로 여론조작을 시도해 문제가 됐다.

민주주의는 부유하건 가난하건 누구나 한 표씩만 행사할 수 있는 평등한 체제다. 민주주의의 대가로 불리는 정치학자 로버트 달은 민주주의인가 아닌가를 구분하는 것은 “공적 논의와 결정의 과정에 평등한 영향을 미칠 수 있는 절차적 조건”이라고 말했다. 이를 위해서는 시민 모두가 의견을 가지고 표출할 수 있는 권리가 보장되어야 한다. 챗지피티를 이용해 댓글과 같은 정치 메시지를 대거 생산해 유포하는 것은 참여와 의견을 조작해 민주주의를 위협한다.

한편 챗지피티는 누구나 접근가능하기에 힘없는 약자들도 정책에 영향을 미치기 위해 로비를 시도할 수 있어 민주주의에 활력을 부여할 것이라는 기대감도 있다. 하지만 강력한 힘을 지닌 기관일수록 ‘인간 로비스트’는 물론 ‘인공지능 로비스트’도 적극 활용할 가능성이 크다. 누구나 챗지피티를 이용할 수 있다지만 결국 아이디어와 경험이 많은 전문가, 그리고 자금력이 뒷받침될 때 로비의 효과도 극대화된다. 이들이 챗지피티를 이용해 조직적 로비를 펼칠 때 보통의 시민이 정치에 영향을 미칠 수 있는 권한인 ‘투표’는 무력해질 수 있다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr