한겨레

배달차량 안의 인공지능 카메라는 안전 도구일까, 감시 장치일까?

업무 현장 관리에 인공지능을 활용하는 것은 외줄타기를 하는 것과도 같다. 업무 효율과 인권 침해 사이에서 적절한 균형을 맞추기가 쉽지 않기 때문이다. 이 균형이 깨지면 인공지능은 사람을 돕는 도구를 넘어, 사람을 통제하는 수단으로 변질된다.

2019년 물류센터 노동자들의 업무 이탈 시간 추적 장치로 도마에 올랐던 세계 최대 전자상거래업체 아마존의 인공지능 관리 시스템이 이번엔 배달차량 기사들에 대한 감시 카메라로 다시 한번 입길에 올랐다.

아마존은 지난 2월부터 배달트럭 안에 인공지능(AI) 감시 카메라 시스템을 설치하기 시작했다. 이 시스템은 운전자의 행동을 관찰하다가 앞차 따라붙기, 과속, 불법 유턴 등 안전운전에 위반되는 행위가 포착되면 점수를 매기는 장치다.

당시 아마존은 배달 기사의 인권을 침해하는 장치라는 비판에, 운전기사가 안전 규칙을 지키도록 하기 위한 것이라고 해명했다. 그러나 이 점수들은 급여 수준과 고용 유지 결정에 영향을 끼칠 수 있다.

당시 이 소식을 처음 보도한 미국의 온라인 미디어 ‘디 인포메이션’(The Information)이 최근 확보해 공개한 아마존 내부문서에 따르면, 배달기사들은 주말이 되면 자신의 점수가 기재된 성적표를 받는다.

인공지능 감시 카메라가 위험하다고 판단되는 행위에 대해 매기는 점수는 대부분 1점이다. 하지만 정지 신호 무시처럼 위반 정도가 크다고 판단되는 행위엔 10점을 준다. 성적표에는 100회 운행당 몇회를 위반했는지에 따라 최고 ‘팬태스틱’(Fantastic)에서 최저 ‘푸어’(Poor)에 이르는 여러 등급이 매겨져 있다.

최고 등급 ‘팬태스틱’을 받으려면 위반 횟수가 5회 이하여야 한다. 아마존은 인공지능이 잘못 판단하는 경우를 고려해 일부 위반 사항은 점수에서 제외할 수도 있다고 명시했다.

_______
아마존 “안전 향상…차량 전체에 설치중”

아마존은 일단 이 시스템의 효과를 긍정적으로 판단하고 있는 것으로 보인다. 아마존 대변인은 영국 일간 ‘데일리메일’에 “현재 배달 밴의 45%에 인공지능 카메라가 장착돼 있으며 이 시스템 덕분에 운행의 안전성이 좋아졌다”고 말했다. 그는 최근 이 시스템을 배달차량 전체에 설치하기 시작했으며, 이는 운전자와 커뮤니티의 안전보다 더 중요한 것은 없기 때문이라고 밝혔다.

아마존에 따르면 이 시스템은 단순히 모니터링만 하는 것이 아니라 모니터링 결과를 운전기사에게 실시간 알려줌으로써 안전한 운행을 돕는다.

아마존은 200만마일이 넘는 배송 경로에서 이 시스템을 시험한 결과 사고 48% 감소, 정지신호 위반 20% 감소, 안전벨트 미착용 60% 감소, 운전중 산만한 행동 45% 감소 등 눈에 띄는 효과를 거뒀다고 밝혔다.

_______
카메라와 앱이 짝 이뤄 ‘빅 브라더’로?

‘드라이버아이’(Driveri)라는 이름의 인공지능 카메라에는 도로, 운전자, 차량 내부를 모니터링하는 4개의 렌즈가 있다. 각 렌즈에 연결된 인공지능 소프트웨어는 급제동, 안전벨트 착용 여부 등 안전과 관련한 16가지 문제를 판별한다.

이 카메라는 또 운전자의 위치와 이동 상태를 상시적으로 추적하는 ‘멘토’(Mentor)라는 이름의 앱과 짝을 이룬다. 이 앱은 일부 위반 사항을 추적하는 것과 함께, 데이터를 본부에 전송해주는 역할도 한다. 두 시스템이 힘을 합쳐 배달기사들에 대한 일종의 ‘빅 브라더’ 역할을 하는 셈이다.

아마존의 한 배달기사는 ‘로이터’ 인터뷰에서 배달 차량에 4개의 렌즈를 갖춘 인공지능 카메라를 설치하기로 한 아마존의 결정에 모욕감을 느꼈으며, 결국 그 이유로 아마존 배달 기사를 그만뒀다고 말했다.

워싱턴DC의 앤드류 퍼거슨 아메리칸대 교수(법학)는 ‘로이터’에 “아마존은 문자 그대로 우리 이웃을 촬영하는 모바일 감시 밴을 만들고 있다”며 “만약 정부가 그런 일을 한다면 끔찍할 것”이라고 말했다. 그는 아마존의 민간 감시 네트워크는 정부의 염탐력을 더욱 강화해줄 것이라고 덧붙였다.

곽노필 선임기자 nopil@hani.co.kr