한겨레

운전행위는 지점간 이동 이상의
인간 의지와 사회적 맥락 반영
알고리즘 위주로 해결하려 하면
복합적 문제 못풀고 진퇴양난 빠져

자율주행 자동차가 대중화를 위해서 넘어야 할 고비는 기술 개발만이 아니다. 사고를 피할 수 없는 상황에서 어떤 기준에 따라 선택을 할지에 관한 도덕적 문제가 무엇보다 어려운 과제다. 자율주행차가 인명 사고를 피할 수 없는 주행 상황에서 누구를 희생시키고 누구를 살리도록 설계할 것인가라는 ‘트롤리(전차) 딜레마’로 알려진 문제이다. 지난 16일 서울 대한상공회의소에서 한겨레 사람과디지털연구소가 ‘알고리즘과 사회적 가치’를 주제로 개최한 ‘2017 휴먼테크놀로지 포럼’에서 트롤리 딜레마에 관한 주목할 만한 주장이 제기됐다. 전치형 카이스트 과학기술정책대학원 교수가 ‘자율주행차 알고리즘에 어떠한 가치를 담을 것인가’를 주제로 발제한 내용을 중심으로 소개한다.

전 교수는 알고리즘과 사회적 가치를 자율주행차 시대에 직면할 두 가지의 질문으로 구체화했다. ‘자율주행차는 어떤 가치를 가져야 하는가’와 ‘사회는 운전이라는 행위에 어떠한 가치와 의미를 담아 왔는가’라는 질문이다.

1. 자율주행차에 어떤 가치를 담을 것인가

트롤리 딜레마는 알고리즘이 사람 목숨에 직접적 영향을 끼친다면 무엇을 기준으로 판단하게 해야 할지, 그런 판단을 알고리즘에 위임해도 되는지에 관한 질문이다. 선로에서 작업 중인 5명의 노동자를 살리기 위해 선로 변환기를 조작해 다른 선로의 작업자 1명을 희생시키는 선택을 하는 행위가 최대 다수의 최대 행복이라는 공리주의 원칙으로 정당화될 수 있는가의 문제이다. 1967년 영국의 윤리철학자 필리파 풋이 제기한 트롤리 딜레마는 사고 상황에서도 알고리즘에 따라 작동해야 하는 자율주행차 시대에는 현실의 문제가 됐다. 자율주행차 개발자는 충돌 사고가 불가피한 상황에서 운전자와 보행자 목숨 중 무엇을 우선시해야 하는지와 같은 구체적 상황에서 선택을 해야 하기 때문이다.

전 교수는 트롤리 문제는 어느 쪽을 선택해도 반론이 나올 수밖에 없어, 답이 없는 문제라고 본다. 트롤리 딜레마는 인공지능의 윤리와 가치를 논하는 상황에서 논의 범위를 지나치게 제한해 문제의 본질을 덮어버리는 결과로 이어진다. 전 교수는 트롤리 문제는 자율주행의 상황 거의 대부분은 기술적 계산에 의해서 문제없이 처리될 수 있고, 아주 예외적인 사고 상황에서 순간적으로 처리해야 하는 긴급한 경우에서만 알고리즘의 윤리적 판단이 요구된다는 믿음을 전제하고 있다고 본다. 자율주행차가 이러한 예외적 상황에서 매끄럽게 대처할 수 있다면 기존 교통시스템에 잘 정착할 수 있다는 전제이다.

하지만 그는 교통사고와 교통안전은 긴급 상황에서 대처 문제가 아니라 오랜 시간에 걸쳐 자리잡은 교통정책과 시스템, 교통문화가 복합된 결과로 발생한다고 지적했다. 자율주행차가 직면할 트롤리 문제와 유사한 사고 상황은 순간적이거나 불가피한 상황이 아니라 사회가 운영해오고 있는 전체적인 교통시스템의 결과라는 얘기다. 그는 도로에 횡단보도를 어디에 어떤 간격으로 설치할지와 연관되며 그동안 보행자보다 차량 흐름을 우선시해온 도로교통 시스템의 영향을 자율주행차도 피할 수 없다고 지적했다. 트롤리 딜레마가 알려주는 것은 도로교통 시스템은 이미 엄청나게 복잡하고 많은 사회적 가치판단을 전제하고 있는 복잡계이기 때문에, 예외적이고 불가피한 사고 상황을 처리할 정교한 알고리즘으로 해결될 수 없다는 것이다. 특정 상황을 처리할 수 있도록 알고리즘에 어떤 가치를 넣을까 고민하는 대신 사회가 합의하고 실행하고 있는 전체 시스템 차원에서 어떠한 가치를 우선시할지 새로운 합의가 요구된다는 주장이다.

2. 자율주행차는 운전을 어떻게 바꿀 것인가

자동차 사고의 90%는 사람의 실수인데 자율주행은 이를 획기적으로 감소시킬 기술로 기대받고 있다. 자율주행은 운전을 지점 ㄱ에서 지점 ㄴ까지 이동하는 단순한 행위라고 보고 있지만, 실제 상황에서 운전은 개인의 삶에서 다층적 의미를 갖는 실천이자 상호작용의 의미를 지니고 있다. 전 교수는 최근 <교육방송> ‘한국기행: 가을, 버스 안에서’가 청산도에서 42년간 버스를 운행하는 기사가 마을공동체를 돌보는 일, 영화 <택시 운전사>에서 총으로 길을 막아도 기자를 싣고 가는 택시운전사의 의지, 광주민주화운동 때 학생들을 보호하기 위해 시위에 나선 버스와 택시기사들의 결단 등을 예로 들며 운전 행위에 담긴 복합적 의미를 조명했다. 지난 9월 말 사우디아라비아에서 그동안 불법이던 여성의 운전을 허용하면서 운전 행위는 개인의 자율성과 권리를 상징하는 의미를 지닌다는 것을 드러냈다.

자율주행은 운전을 ㄱ에서 ㄴ으로 이동하는 행위로 단순화하고 있지만 때로 운전은 양도할 수 없는 인간 의지와 자율성을 실천하는 행위라는 점이다. 전 교수는 현재 교통시스템은 이미 수많은 가치판단과 사회적 합의의 결과물이고, 운전자의 자격과 자율성에 관한 판단, 보행자와 자동차의 상대적 중요성에 대한 판단 등을 전제하고 있다고 말했다. 알고리즘에 더 바람직한 가치와 정교한 계산을 적용해 완벽한 자율주행 시스템을 구축할 수 없고 대신 사회 전체 차원의 복합적인 관행과 문화, 가치 틀을 함께 고민해야 한다는 게 그의 주장이다.

머지않아 보편화할 자율주행 시대를 준비하는 방법은 기술 개발과 함께, 이처럼 기술로 해결할 수 없고 정답도 존재하지 않는 복합적인 사회적 시스템을 다양한 논의와 합의를 통해 새로운 시스템으로 업그레이드하는 과제임을 알려준다.

구본권 사람과디지털연구소장 starry9@hani.co.kr

◎ Weconomy 홈페이지 바로가기: https://www.hani.co.kr/arti/economy
◎ Weconomy 페이스북 바로가기: https://www.facebook.com/econohani