한겨레

컴퓨터가 이미지를 식별하는 능력이 인공지능 기술의 발전 덕분에 갈수록 정교해지고 있다. 차별과 정확도 논란 속에서 적용 범위를 확대해가고 있는 인공지능 얼굴인식 기술도 컴퓨터 이미지 인식 기술의 발달에 기인한다.

인공지능 이미지 인식은 개와 고양이 식별처럼 사람에겐 단순한 문제를 구현하지 못하는 한계를 보여왔다. 컴퓨터 이미지 인식능력을 겨루는 2012년 이미지넷 대회에서 캐나다 토론토대의 제프리 힌튼 교수가 심화신경망 방식의 인공지능을 통해 우승한 이후 컴퓨터 이미지 인식능력은 비약적 발전을 거듭했다. 인공지능 이미지 인식은 이후 고양이 식별과 같은 해묵은 과제를 해결한 것은 물론, 사물을 식별하는 능력에서 99% 넘는 정확도를 과시하며 사람 이상의 ‘시력’을 보여주고 있다. 페이스북을 비롯해 개인용 이미지 관리 도구에서 얼굴인식 기능이 널리 활용되고 있으며 중국과 영국 등은 공공장소의 감시카메라 촬영결과를 용의자 얼굴 데이터베이스와 연계해 치안과 감시에 적용하고 있다.

이와 함께 인공지능 이미지 인식의 중대한 결함을 드러내는 사례 또한 보고되고 있다. 인공지능 이미지 식별 기능의 약점을 이용해 의도적으로 잘못된 판독을 하게 하는 이미지를 만들어내는 경우다. 인공지능의 취약점을 드러낸다고 해서 ‘적대적 사례(adversarial examples)’라고 불린다. 적대적 사례는 인공지능의 안전성과 신뢰성을 근본적으로 위협하는 요인이다.

미국 워싱턴 대학의 이반 에브티모프 등은 2017년 7월 논문(Robust Physical-World Attacks on Deep Learning Models)을 통해, 컴퓨터 이미지 인식 기능을 속이는 방법을 공개했다. 교통 표지판에 정교하게 만든 스티커를 붙여 넣었더니, 이미지 인식 모델이 완전히 속아 넘어간 실험이다. 인공지능 이미지 인식모델이 ‘정지(STOP)’ 표지판을 ‘속도 제한(SPEED LIMIT)’ 표지판으로 잘못 인식한 것이다.

<블룸버그통신> 등 외신에 따르면, 2019년 3월엔 중국의 텐센트 산하의 킨시큐리티 연구소가 이러한 적대적 사례를 이용해 자율주행차 시스템이 도로를 역주행하게 하는 실험에 성공했다. 킨 연구소는 테슬라 전기차의 자율주행 시스템을 대상으로 실제 도로에 작은 점 3개를 칠하고 주행하도록 했는데, 테슬라가 이 점 때문에 중앙선을 넘어 맞은편 차선을 달려 역주행하는 결과로 이어졌다. 도로의 교차로 지점에 표시한 점들 때문에 테슬라가 이를 오른쪽 차선으로 인식하고 왼쪽으로 방향을 틀어 맞은편 도로를 주행한 것이다.

인공지능의 이미지 인식의 결함을 드러내는 이러한 ‘적대적 사례’는 자율주행이나 군사공격, 의료진단과 같은 영역에서 사용될 경우 치명적 결과로 이어져, 인공지능의 신뢰성은 근본적으로 위협받는다.

이 때문에 인공지능 이미지 인식이 오인하게 만드는 ‘적대적 사례’의 요인과 절차를 규명하기 위한 시도가 이어져왔는데, 최근 새로운 연구가 공개됐다. 인공지능의 시각적 인식능력은 단순히 사람의 지각방식과 다를 뿐 아니라, 사람이 보지 못하는 것을 볼 줄 아는 특징 때문이라는 연구다.

영국의 과학기술 전문지 <뉴 사이언티스트> 5월13일 기사에 따르면, 미국 매사추세츠공대(MIT)의 알렉산더 매드리는 일련의 실험을 통해 적대적 사례가 컴퓨터의 시각인지가 인간이 보지 못하는 것을 보는 현상 때문이라는 점을 밝혀냈다.

연구 초기에 매드리는 적대적 사례가 컴퓨터 이미지 인식의 버그(오류)라고 생각하고 이를 제거하기 위한 알고리즘 개발에 집중했으나, 연구 과정에서 원인이 다른 데 있다는 결론에 이르게 됐다. 사람은 동물의 귀 모양이나 코의 길이처럼 특정한 대상의 두드러진 특징을 기반으로 이미지를 인식하는데 인공지능 이미지 인식은 사람이 인식할 수 없는 특징들을 이용해 사물을 인식한다는 점이 이 연구의 발견이다.

매드리는 <뉴 사이언티스트> 기사에서 “우리는 사람이 보지 못하고 기계만 볼 수 있는 특징이 무엇인지 알지 못하고 인간 두뇌는 이해하지도 못한다”고 말했다. 매드리는 이런 패턴이 인공지능의 적대적 사례에 취약하다는 점에서 ‘취약점(non-robust features)’이라고 부른다.

매드리는 이미지 식별에서 이러한 취약점이 문제를 일으킨다는 점을 밝혀내기 위해 일련의 실험을 진행했다. 개와 고양이의 표준적 사진들을 이용해 일련의 적대적 사례를 만들어냈다. 그 뒤에 인공지능에게 각각 잘못된 표지(label)를 붙인 적대적 사례를 학습하도록 했다. 인공지능이 이미지 식별에 혼란을 겪도록 의도적으로 잘못된 표지를 붙인 실험이다. 그 결과 인공지능은 오작동하지 않고, 정상 이미지(비적대적 사례)를 제대로 분류했다. 연습 데이터에서 추출된 ‘취약점’이 개와 고양이를 식별하는데 유용했다. 이후 연구진은 ‘취약점’을 지닌 일련의 이미지를 제거하고 인공지능이 사람과 같은 방식으로 이미지를 식별하도록 훈련시켰다. 그 결과 인공지능은 적대적 사례를 오인하지 않는 개선된 능력을 갖게 되었다.

영국 딥마인드의 연구진 푸시미트 콜리는 “이는 인공지능을 실제 세계에 안전하게 실행할 수 있는데 도움을 줄 수 있는 유용한 진전”이라고 평가했지만, 옥스퍼드대학의 마르타 퀴아코스카는 “그럼에도 인간은 이러한 취약점을 볼 수 없기 때문에 이를 실제 적용하는 것은 어려운 문제”라고 말했다.

이 연구를 진행한 매드리 또한 “해결책이 아니라 해결을 위한 설명과 방향 제시에 불과한 단계”라고 인정했다.

사람이 보지 못하지만 인공지능은 보고 인식 근거로 삼는 그 무엇이 무엇인지를 밝혀내는 연구는 인간과 기계 인지를 연결시키는 새로운 인간-컴퓨터 상호작용(Human-Computer Interface) 연구의 영역으로 부상하고 있다.

구본권 선임기자 starry9@hani.co.kr