한겨레

지난해 11월30일 공개된 챗지피티 이후 생성형 인공지능이 생활 깊숙이 들어오고 있다. 미래 기술로 여겨지던 ‘가상 인간(버추얼 휴먼)’도 성큼 현실화하고 있다. 굳이 전문기술 없어도 유튜브 영상을 따라 하면 나만의 가상 인간을 쉽게 만들 수 있다. 생성형 인공지능을 이용하면 가상 인간을 만들고 실제 모델처럼 옷을 입혀 화보집을 영상으로 만드는 일도 간단하다. 이렇게 만든 영상 화보집을 ‘에이아이(AI) 룩북(lookbook)’이라고 부른다. 이런 생성 인공지능을 이용해 화보집을 만들어주는 제작도구도 서비스되고 있는 현실이다.(사진)

그런데 문제가 생겨나고 있다. 일부 유튜버들은 인공지능 화보집을 만들면서 실제 사람 모델에게 시도하기 힘든 선정적인 포즈와 노출 동영상을 스스럼없이 제작해 올린다. 동기는 돈벌이다. 30만명이 구독하는 에이아이 룩북 채널의 한 달 수익은 3천만원 이상으로 추정된다.

돈벌이가 되다보니 선정적인 인공지능 화보집 경쟁이 일어나고 있다. 유튜브에서 ‘AI 룩북’으로 검색하면 노출 심한 교복을 입은 영상, 속옷을 입고 선정적 포즈를 취하는 영상 등 다수의 영상을 볼 수 있다. 어떤 영상은 성인 인증을 하지 않아도 볼 수 있다. 범죄의 소지가 다분해 보이는 영상도 있다. 교복을 입고 선정적인 포즈를 취하는 가상모델 가운데는 아동 청소년으로 보이는 영상도 있다. 실제 아동 청소년을 대상으로 성착취물을 제작하면 최대 무기징역에 처해지지만 가상 모델은 실제 사람이 아니기 때문에 법망을 피해간다.

전문가들은 가상 세계에 익숙해지면 실제 세상에서도 자연스럽게 받아들여지고 그대로 행해질 수 있다는 점을 우려한다. 사람과 거의 동일한 가상 인간의 성착취물을 보는 사람은 실제에서도 유사한 행동을 하거나 가상 인간에게 대하는 방식을 그대로 사람에게도 대할 가능성이 높다.

문제 해결을 위해서는 플랫폼 사업자의 자율적인 규제 마련, 법·제도 개선과 함께 유튜버들의 윤리의식이 강화돼야 한다. 유튜브는 미성년자를 성적 대상화하는 경우에는 경고 조치를 취하거나 채널을 폐쇄하지만 인공지능 화보집에 대한 구체적인 규제 지침은 없다.

생성 인공지능이 만들어내는 선정적 콘텐츠는 화보집만이 아니다. 딥페이크 기술은 생성 인공지능이 나오면서 날개를 단 모양새다. 한국콘텐츠진흥원 자료에 따르면, 인공지능을 활용한 콘텐츠의 80%가 성산업이나 범죄 등에 활용되고 있다.

사실 이러한 문제들은 인터넷 초창기부터 불거졌다. 인터넷이 정보의 바다라는 점은 선정적 콘텐츠, 유해한 정보의 바다라는 것도 의미한다. 성인 콘텐츠 시장은 기술 발전과 함께 커져왔다. 인터넷 초창기 실시간 성인방송부터 가상현실(VR)·증강현실(VR) 속 낯뜨거운 이미지와 딥페이크 합성 성인물까지. 그런데도 인공지능 화보집을 보면서 느끼는 불안함은 약간 다르다. 생성형 인공지능의 대중화로 인해 성인물 세계로 들어가는 최소한의 기술적 문턱마저 사라지는 느낌을 받는다. 자국어가 최고의 코딩 언어가 된 지금, 글만 깨우치면 누구나 불법의 세계로 넘어갈 수 있다는 확장된 가능성이 문제다.

강현숙 사단법인 코드 이사