한겨레

☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 h730’을 쳐보세요.

발생하지 않은 일을 벌어진 것처럼, 하지 않은 말을 한 것처럼 감쪽같이 조작해내는 ‘인공지능(AI) 기술’을 선거철에 어떻게 통제해야 할까? 큰 선거를 앞둔 나라마다 골치 아파하는 주제에 대해 미국 빅테크 기업이 ‘자신의 영토(플랫폼) 안에서의 신질서’를 정하고 나섰다.

페이스북·인스타그램 운영사 메타가 내년부터 인공지능 기술을 사용하고도 이를 밝히지 않는 정치광고는 거부하기로 했다. 새해부터 페이스북과 인스타그램에 정치·선거·사회문제 관련 광고를 싣고자 하는 광고주는 인공지능 기술을 통한 영상·이미지 등의 조작 여부를 밝힌 뒤 이를 표기해야 한다. 미국 대선을 1년 앞두고 나온 미국 빅테크 플랫폼의 결정은 내년 4월 총선을 앞두고 ‘인공지능 대응’을 고심하고 있는 우리나라에도 영향을 미칠 것으로 보인다.

메타는 8일(현지시각) 자사 누리집(블로그)을 통해, 내년부터 정치·사회분야 광고에 인공지능 기술을 사용한 경우 이를 공개하도록 요구할 것이라고 밝혔다. 메타는 “페이스북이나 인스타그램의 정치·선거·사회문제 관련 광고가 인공지능을 포함한 디지털 기술을 통해 생성·변조된 경우 사람들의 이해를 돕기 위해 새로운 정책을 마련했다”며 “이 정책은 새해부터 시행되며, 세계적으로 의무화된다”고 설명했다.

‘자진 신고 대상’이 되는 정치광고는 특정한 ‘목적’을 위해 음성·이미지·영상 등에 인공지능을 통한 ‘조작’이 가해진 경우다. 메타는 “실제 누군가가 말하거나 행동하지 않았는데도 말한 것처럼 조작한 경우, 일어나지 않은 일인데 실제로 발생한 것처럼 영상을 변조한 경우, 어떤 사건이 발생했다고 주장하기 위해 만든 실제가 아닌 영상 등이 정치·사회 광고에 포함된 경우에는 반드시 이 사실을 알려야 한다”고 밝혔다.

역설적이게도 메타는 자사의 광고주들을 위해 인공지능 광고 제작 도구를 지원하고 있다. 이 때문에 메타는 “단순히 이미지 크기나 색상을 수정하는 등 인공지능 기술을 통한 변경 사항이 광고에서 제기된 주장에 중요하지 않은 부분일 경우에는 예외”라고 밝혔다. 인공지능 기술 활용을 신고한 광고의 경우 해당 내용을 광고에 표시할 계획이다. 반복적으로 메타의 요구에 부응하지 않는 광고주에 대해서는 광고 거부뿐 아니라 불이익을 줄 수 있다고 밝혔다.

이러한 메타의 광고 정책은 내년 11월로 예정된 미국 대선을 1년 앞두고 발표됐다. 페이스북과 인스타그램에 각각 20억명의 이용자가 있으며 전체 매출의 90% 이상을 광고에서 얻는 메타는 2020년 미국 대선을 앞두고는 4개월 동안 정치광고를 받지 않기도 했다. 페이스북이 2016년 미국 대선에 개입하려는 러시아의 광고를 방치했다는 비난을 받은 이후다.

국내에서도 내년 4월 총선을 앞두고 ‘인공지능 조작 대응’을 어떻게 할지에 대해 고민이 깊다. 중앙선거관리위원회는 지난 7월 인공지능 활용은 허용하되 정보 조작은 금지하는 내용의 ‘생성형 인공지능을 활용한 선거운동 등 관련 운용기준’을 마련하고, 8월에는 500명 규모의 ‘인공지능 전담팀’(허위사실공표·비방 특별대응팀)을 편성했다. 하지만 중앙선관위조차 “짧은 선거기간에 인공지능 기술로 만든 정교한 허위정보가 유포될 경우 진위 여부 확인 등 위법성을 판단하고 확산된 허위정보를 신속히 삭제 조치하기에는 현실적인 어려움이 예상된다”는 입장이다.

지난 5월에는 이상헌 의원(더불어민주당)이 인공지능을 활용해 제작한 콘텐츠에는 그 사실을 표시하도록 하는 내용의 ‘콘텐츠산업 진흥법 일부개정 법률안’을 발의하기도 했다.

임지선 기자 sun21@hani.co.kr