한겨레

네이버와 카카오 등 정보통신기술(ICT) 기업들이 인공지능(AI) 필터링 기술을 활용해 온라인상에 부적절한 정보들을 차단하는 기능을 구현하고 있다. 다만 인공지능의 오류로 문제가 없는 콘텐츠까지 차단되는 일이 빈번해 완전한 필터링 기술이 작동하기까지 시간이 더 필요하다는 지적도 나온다.

네이버는 16일 실시간으로 음란물을 필터링하는 기술 ‘클로바 그린아이’(CLOVA GreenEye)를 시범 출시했다고 밝혔다. 해당 서비스는 네이버가 2017년 개발한 실시간 이미지 필터링 기술인 ‘엑스아이’의 기능을 향상시켜 출시됐다. 인공지능이 수백만장 이미지를 학습해 부적절한 사진이나 동영상을 감지하고, 검색 노출을 제한하는 게 기술의 핵심이다. 수위에 따라 음란물, 성인물, 선정적인 콘텐츠 등으로 이미지 등급의 세분화도 가능하다. 해당 기술은 포털 검색과 카페, 블로그, 지식인 등 다양한 네이버 서비스 등에 활용되고 있다. 네이버는 클로바 그린아이를 오픈 응용프로그램 인터페이스(API) 형태로 외부에서도 이용할 수 있게 개방한다는 계획이다.

카카오도 인공지능 댓글 필터링 기술인 ‘세이프봇’을 활용해 온라인상에서 비속어가 포함된 댓글 등을 걸러내고 있다. 인공지능이 포털에 축적된 텍스트를 학습해 욕설을 기호로 대체하거나 다른 이용자에게 불쾌감을 주는 댓글을 가린 뒤 신고 처리까지 할 수 있다. 카카오 자체 조사에 따르면, 세이프봇 기술을 적용하기 전인 2020년 하반기와 적용 이후인 2021년, 2022년 뉴스 댓글 비속어에 대한 월평균 수치를 비교해보니 비속어 댓글이 3분의 1 수준으로 줄었다. 카카오는 더 나아가 증오 발언을 판별하는 학습 데이터를 구축해 내년 상반기 세이프봇에 적용한다는 계획이다.

다만, 인공지능 필터링 기술이 문제 없는 콘텐츠 등을 삭제하는 오류에 대한 보완이 이뤄져야 한다는 지적도 나온다. 인공지능이 간편하고 빠르게 음란물을 걸러낼 수 있다는 장점이 있지만, 확률에 기반을 둔 판단 오류로 정상적이 콘텐츠들이 삭제되는 일도 빈번하다. 실제로 유튜브에선 2020년 이후 인공지능 필터링 기술을 구현한 뒤 문제가 없는 콘텐츠 수만개가 삭제돼 제작자 항의를 거쳐 다시 복원되는 일이 반복되고 있다. 익명을 요청한 플랫폼 업계 관계자는 “인공지능이 학습한 데이터량에 따라 잘못 걸러지는 정보들이 생길 수 있다. 문제 해결 등을 위해 사람이 개입하지 않는 인공지능 필터링 기술이 완성되기까지는 많은 시간이 걸릴 것”이라고 말했다.

옥기원 기자 ok@hani.co.kr