본문 바로가기

광고

광고닫기

광고

본문

광고

미래&과학 미래

딥페이크의 두 얼굴 ‘암 진단’ ‘합성누드’

등록 2019-07-09 16:07수정 2019-07-09 16:13

구본권 기자
구독 구독중
  • 가 가 가 가 가
익명의 개발자가 딥페이크 기술을 활용해 여성 사진을 누드 사진으로 변환시키는 앱을 개발해 팔았다가 문제가 되자 즉시 내렸다. motherboard 제공.
익명의 개발자가 딥페이크 기술을 활용해 여성 사진을 누드 사진으로 변환시키는 앱을 개발해 팔았다가 문제가 되자 즉시 내렸다. motherboard 제공.
[구본권의 사람과디지털]
‘식별불가능한 가짜’ 활용해 실감 의료영상 생성
여성사진 누드변환 ‘딥누드’ 등장, 악용우려 현실로
진짜와 식별하기 힘든 가짜 영상을 만들어내는 인공지능 딥페이크(deep fake) 기술을 활용한 상반된 사례가 보고돼 눈길을 끈다. ‘MIT 테크놀로지리뷰’ ‘바이스(Vice)’ 등 외신에 딥페이크를 활용한 긍정적·부정적 사례가 보도되며 딥페이크 기술의 활용 가능성과 영향력에 대한 우려와 논쟁이 일고 있다. 인공지능의 생성적 대립신경망(GAN) 기능을 이용한 딥페이크 영상이다.

#1. 독일 뤼벡대 의료정보학연구소 연구진은 7월초 GAN 기반의 딥러닝 알고리즘을 활용해 암 진단에 탁월한 성과를 보인 인공지능을 개발했다는 논문(Multi-scale GANs for Memory-efficient Generation of High Resolution Medical Images)을 공개했다.

딥러닝 알고리즘의 뛰어난 이미지 패턴매칭 기능은 다양한 종류의 암 진단을 할 수 있도록 학습시킬 수 있어, CT, MRI, X선 이미지를 분석해 다양한 암의 징후와 이상신호를 탐지하는 데 활용될 수 있다. 하지만 의료정보의 민감성과 사생활 침해 우려 때문에 인공지능용 훈련 데이터가 충분하지 않은 문제가 있었다. 또한 고해상도 이미지를 3D로 합성해내기 위해서는 고성능 컴퓨터와 많은 비용이 필요해 그동안 임상에서 실용하화기 어려웠다.

뤼벡대 연구진은 생성적 대립신경망을 이용해, 실제 영상과 구별할 수 없는 정확도의 의료영상을 손쉽게 만들어내는 데 성공했다. 또한 GAN은 우선 전체 이미지를 저해상도로 만들어낸 뒤 부분별로 세부 이미지를 고해상도로 만들어내는 기능을 통해, 컴퓨팅 능력을 크게 아끼는 경제적 방법을 구현했다. 딥페이크 기술이 인공지능의 의료영상 학습과 진단에 주요한 도구로 활용될 것이라는 기대를 받는 연구다.
독일 뤼벡대 의료정보학연구소 연구진은 7월초 공개한 GAN 기반의 딥러닝 알고리즘을 활용한 암 진단 인공지능 개발 논문에서 엑스선 영상에 딥페이크 기술을 적용했다. arXiv 제공.
독일 뤼벡대 의료정보학연구소 연구진은 7월초 공개한 GAN 기반의 딥러닝 알고리즘을 활용한 암 진단 인공지능 개발 논문에서 엑스선 영상에 딥페이크 기술을 적용했다. arXiv 제공.

#2. 6월말 익명의 개발자가 딥페이크 기술을 이용해 합성한 벗은 몸 사진을 만들어내는 ‘딥누드(DeepNude)’ 애플리케이션을 개발해 온라인에 공개한 일이 발생했다. 여성 사진에 이 앱을 실행하면 GAN 기반의 딥페이크 기술을 이용해 옷을 벗기고 고도로 정교한 누드 사진을 즉시 만들어낸다. 이는 합성 사진일 뿐이어서 실제 몸 사진이 아니지만, 사실적 묘사로 인해 이를 보는 사람들은 현실의 누드와 구분하기 어렵다. 앱 공개 직후 방문이 폭주하고 논란이 커지자, 앱 개발자는 장터에서 곧바로 앱을 내렸다. 이 앱은 여성 누드만을 처리했다. 앱 개발자는 딥페이크 알고리즘을 학습시키기 위해 1만장 이상의 누드 사진을 사용했는데, 온라인에 여성 누드사진이 남성에 비해 훨씬 많다는 점이 고려됐을 뿐이며 남성용도 개발중이었다고 설명했다.

딥페이크 기술이 유명인사의 정치적 발언을 왜곡하고 조작하는 ‘가짜뉴스’ 용도로 주로 활용될 것이라는 우려가 많았지만 두 사례는 현실에서 딥페이크가 다양한 용도로 사용될 것임을 예고한다. ‘MIT 테크놀로지 리뷰’는 딥누드 앱이 적절한 자기보호수단을 갖추지 못한 취약계층을 주로 공격하는 용도로 쓰일 가능성을 전달했다. 실제의 누드 사진이 아니지만 딥누드는 대상자의 평판과 이미지에 엄청난 피해를 가져올 수 있는 도구다. 인도의 탐사보도 전문 여성 기자가 정부 부패를 보도하자 반대자들이 그녀의 얼굴 사진을 포르노 영상에 합성해 유포시키는 등 집단적 모욕에 나선 사례도 있다. 딥페이크 기술이 여성만이 아니라 동성애자, 외국인 등을 포함한 다양한 소수자를 공격하는 수단이 될 것이라는 우려가 생기는 배경이다. 딥페이크 기술이 가짜와 진짜의 구별을 어렵게 만다는 것을 넘어 무고한 사람을 공격하고 파멸시키는 강력한 도구가 될 수 있는 상황에 대한 논의와 대책이 요구되고 있다.

구본권 선임기자 starry9@hani.co.kr
연재구본권의 사람과 디지털
항상 시민과 함께하겠습니다. 한겨레 구독신청 하기
언론 자유를 위해, 국민의 알 권리를 위해
한겨레 저널리즘을 후원해주세요
후원하기 후원제 소개

광고

광고

광고

미래&과학 많이 보는 기사

이번 주말, 올해 가장 높은 보름달 뜬다 1.

이번 주말, 올해 가장 높은 보름달 뜬다

울릉도는 활화산, 백두산과 동일한 화산가스 나온다 2.

울릉도는 활화산, 백두산과 동일한 화산가스 나온다

지팡이여 안녕…노인 위한 ‘로봇 반바지’가 개발됐다 3.

지팡이여 안녕…노인 위한 ‘로봇 반바지’가 개발됐다

오후 5시 이후 식사, 혈당 높인다 4.

오후 5시 이후 식사, 혈당 높인다

점토를 초속 10m로 투척…시멘트 없이 3D 프린팅 건물 짓는다 5.

점토를 초속 10m로 투척…시멘트 없이 3D 프린팅 건물 짓는다

한겨레와 친구하기

1/ 2/ 3

서비스 전체보기

전체
정치
사회
전국
경제
국제
문화
스포츠
미래과학
애니멀피플
기후변화&
휴심정
오피니언
만화 | ESC | 한겨레S | 연재 | 이슈 | 함께하는교육 | HERI 이슈 | 서울&
포토
한겨레TV
뉴스서비스
매거진
맨위로
뉴스레터, 올해 가장 잘한 일 구독신청