한겨레

질문만 입력하면 눈깜짝할 새 ‘모범답안’을 제시하는 오픈에이아이(OpenAI)의 대화형 인공지능 챗지피티(ChatGPT)의 사용 여부를 인공지능을 이용해 적발해낼 수 있을까?

챗지피티가 각종 자격시험과 학력 테스트를 통과할 수준의 답변능력을 갖췄다는 사실이 알려지면서 상반된 반응이 나오고 있다. 챗지피티를 자료 조사, 보고서·연설문 작성, 번역·어학 공부에 활용하는 법을 알려주는 콘텐츠가 쏟아지는 한편 시험·과제물 제출 등에 쓰는 사례를 적발하기 위한 교육 당국의 시도도 활발하다.

미국에서는 뉴욕주 일부 공립학교에서 교내 와이파이망에서 챗지피티를 차단하고 있으며, 조지워싱턴대 등은 방과후 과제들을 단계적으로 폐지하고 구술시험과 필답고사를 확대하기로 했다. 국내에선 지난달 수도권의 한 국제학교가 챗지피티를 이용해 영어작문 과제를 제출한 학생 7명 학생을 적발해 0점 처리했다는 소식도 보도됐다. <네이처> <사이언스> 등 국제 학술지는 챗지피티를 논문의 공동필자로 포함시킬 수 없다는 지침을 발표했고, 개발자와 프로그래머들이 애용하는 문답 사이트 ‘스택 오버플로’는 챗지피티로 만든 답변 등록을 아예 금지했다. 그런데 챗지피티 사용을 금지하려면 탐지 능력이 필수다.

챗지피티를 개발한 오픈에이아이는 지난달 31일 챗지피티를 포함해 인공지능이 작성한 텍스트를 식별하는 도구(분류기)를 무료 출시했다고 밝혔다. 오픈에이아이는 이 도구가 다른 탐지도구에 비해 유용하지만 완전히 신뢰할 수는 없으며 주요 의사결정 도구로 쓸 수 없다고 안내했다. 오픈에이아이는 이 분류기가 인공지능 문장의 26%만을 제대로 식별했으며, 사람이 쓴 문장의 9%를 인공지능이 작성한 것으로 오판했다고 밝혔다.

프린스턴대의 컴퓨터전공 4학년생 에드워드 티안은 챗지피티 사용 여부를 적발하는 소프트웨어 ‘지피티제로(GPTZero)’를 개발해 무료 공개했다. 지피티제로는 인공지능이 작성했을 것으로 의심되는 문장의 부분을 노란색으로 경고 표시하는데, 사용자들은 오픈에이아이의 분류기보다 뛰어나다고 평가했다.

다양한 언어로 논문 표절 검사도구를 서비스하는 미국의 ‘턴잇인(Turnitin)’은 지난 13일 자체 실험결과, 챗지피티와 지피티3를 활용해 작성한 문장의 97%를 식별해낼 수 있는 탐지기를 개발했다고 발표했다. 이 회사의 부사장 에릭 왕은 “탐지기 에러율이 1% 미만이며 기존 주력제품인 표절 검사도구에 탑재해 이르면 4월 출시할 예정”이라고 보도자료에서 밝혔다.

챗지피티가 생성된 문장을 처음부터 표시해주는 기술도 있다. <엠아이티(MIT) 테크놀로지 리뷰>에 따르면, 최근 메릴랜드대 연구진은 인공지능 언어모델이 만든 문장에 워터마크를 적용하는 방법을 개발해 무료 공개했다. 챗지피티에 워터마크 기능이 제공되면 별도의 탐지도구가 불필요해진다.

정확도 높은 챗지피티 사용 탐지도구가 개발되어도 한계가 많다. 대상 문장이 충분히 길지 않으면 적발과 판단이 어렵다. 오픈에이아이는 자사 분류기가 1000자(200~300단어) 이상의 문장에서 작동한다고 밝혔고, 지피티제로도 지나치게 짧은 문장에서는 어려움을 겪는다. 챗지피티를 사용해 짧은 문장을 여러 차례 이어붙이면 탐지기를 속일 수 있다. 챗지피티 결과를 통째 활용하는 대신 부분 활용하고 작성자가 문장을 덧붙이거나 풀어서 쓸 경우 탐지와 판단은 훨씬 어려워진다. 오픈에이아이와 유사한 기능의 대화형 인공지능 출시가 예고돼 있고, 챗지피티 또한 계속 업그레이드될 상황에서 특정 플랫폼 맞춤형 탐지도구는 금세 효용성을 잃어버릴 수 있다.

오픈에이아이도 워터마킹 기술을 개발하고 있지만, 지피티3 등 기존 제품에 적용하지 않고 있다. 또한 챗지피티와 같은 도구는 과제물과 시험 부정에만 쓰이는 게 아니라 이메일 철자 검사와 자료수집, 보고서 얼개 작성 등 다양한 개인적 용도로 활용할 수 있다. 챗지피티의 모든 결과물에 원천적으로 워터마크를 적용할 경우, 득보다 실이 많아진다.

최고의 공격 수단과 방어 수단을 개발하려는 군비경쟁과 보안기술에서 절대적 승자는 존재하지 않는다. 특히 챗지피티 등 최신 인공지능 기술은 ‘생성적 대립 신경망(GAN)’을 기반으로 하는데, 이는 적대관계인 상대의 전략을 파악하고 그에 맞춤해서 나의 전략을 업그레이드하는 구조다. 신기술 개발과 탐지 기술이 끝없이 물고 물리는 관계이기 때문에 어느 한쪽의 안정적 승리가 보장되지 못한다. 이는 챗지피티와 같은 강력한 답변도구가 스마트폰이나 검색엔진처럼 일상이 되는 환경이 되는 것을 의미한다. 기술적 해결이 근본적으로 불가능한 만큼, 이용자가 최신 기술의 속성을 학습하고 대응책을 수시로 업데이트하는 비판 능력을 갖추는 게 무엇보다 중요해지게 된다.

구본권 사람과디지털연구소장 starry9@hani.co.kr