한겨레

카이스트(한국과학기술원) 연구진이 국내에선 처음으로 딥페이크 영상을 가려낼 수 있는 앱을 개발해 내놨다.

카이스트 전산학부 이흥규 교수 연구팀은 딥페이크(deepfake) 이미지와 위·변조한 사진을 가려내는 인공신경망 기반의 소프트웨어 `카이캐치(KaiCatch)'를 모바일 앱으로 개발해 서비스를 시작한다고 30일 밝혔다.

딥페이크 탐지 앱의 등장은 가짜 영상과 이미지가 광범위하게 확산되는 상황에서 그동안 전문영역으로 간주돼 온 딥페이크 탐지 기술을 일상 생활에서 사용할 수 있도록 실용화했다는 점에서 의미가 있다. 이 앱은 현재로선 안드로이드 기반의 스마트폰에서만 사용할 수 있다. 구글스토어에서 `카이캐치'를 검색해 앱을 내려받은 뒤, 이미지를 올리면 3일 이내에 딥페이크 또는 이미지 위변조 분석 결과를 받아볼 수 있다.

딥페이크 기술은 주로 사람의 얼굴을 대상으로 한다. 여기엔 다른 사람의 얼굴로 바꾸는 교체, 유명인사 등의 얼굴을 그대 모방하는 재현, 얼굴의 일부 모습을 바꾸는 속성 변환 3가지 유형이 있다.

이번에 개발한 딥페이크 탐지 기술의 경우, 동영상에서 한 장의 이미지 프레임을 갈무리(캡처)해 PNG 포맷으로 변환한 후 앱에 올리면 딥페이크 탐지 과정이 시작된다. 연구진은 "얼굴 해상도가 지나치게 낮거나(128×128이하) 얼굴이 상당 부분 잘린 경우가 아니면 정상적으로 탐지할 수 있다"고 밝혔다. 분석 결과는 0~1의 값으로 표시된다. 숫자가 높을수록 딥페이크일 확률이 높다는 뜻이다. avi, mp4 형식의 동영상이면 분석 가능하다. 연구진은 실험 영상을 통해 시험한 결과, 각각 96~98%의 탐지율을 보였다고 밝혔다.

사진 위변조의 경우도 같은 방식으로 이미지를 올리면 된다. BMP, TIF, TIFF, PNG, JPEG 등 다양한 형식의 이미지 파일을 처리할 수 있다. 연구진은 "사진 위변조의 경우 평균 탐지 정확도 90~95%, 변형 영역 추정 확률 90%로 나왔다"고 밝혔다.

이흥규 교수는 "카이캐치는 인공지능과 미세 이상 신호 흔적 분석 기법이라는 기술을 사용해 다양한 유형의 변형에 대응한 범용성을 갖도록 개발됐다”며 "우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 탐지할 수 있다”고 말했다.

앱 사용은 원칙적으로 무료이나, 추가 분석을 원하면 이미지 1장당 2천원의 비용을 내야 한다. 연구진은 가까운 시일 안에 애플 운영체제 기반의 앱과 영어, 중국어, 일어 앱도 출시할 계획이다. 카이캐처 앱은 카이스트 창업기업인 디지탈이노텍(http://www.kaicatch.com)과의 산학협력 연구 성과다.

곽노필 선임기자 nopil@hani.co.kr